备队也未投入战斗。反攻由第2乌克兰方面军和第3乌克兰方面军实施，铁木辛哥以最高统帅部代表身份进行协调。原先的意图是马利诺夫斯基向维也纳实施主要突击。然而苏军最高统帅部于3月9日改变了计划，指定克拉夫琴科的第6近卫坦克集团军归托尔布欣指挥，这样托尔布欣可以用它包围和消灭在韦伦采湖和巴拉顿湖之间的巴尔克的第6集团军和迪特里希的第6党卫军装甲集团军。
3月16日，扎赫瓦塔耶夫的第4近卫集团军和格拉戈列夫的第9近卫集团军以克拉夫欣科的第6近卫坦克集团军作预备队攻击在韦伦采湖西北方的巴尔克的德军第6集团军的左翼，并向西南方出击以夺取韦伦采湖和巴拉顿湖之间的地域，这样便可切断巴尔克的第6集团军的部分部队与迪特里希的整个第6党卫军装甲集团军的联系。加根的第26集团军和特罗费缅科的苏军第27集团军，企图从正面牵制住这两个集团军。韦勒提出用迪特里希的部队攻击苏军翼侧的建议，直到几天后才获得希特勒的批准，但为时已经太迟了。党卫军部队开始退却，有时没有命令就撤退。愤怒的元首完全不顾纳粹党昔日的骄傲，命令他的一名私人代表前往匈牙利监督，把党卫军成员（包括阿道夫·希特勒近卫师成员）的袖章一一撕去。
在攻势之初，据说第3乌克兰方面军只有一个半弹药基数，尽管这可能无法满足刚从第2乌克兰方面军调来的第6近卫坦克集团军的需要量。在第17、第18航空集团军的强大空中支援下，第4和第9近卫集团军在德军顽强抵抗面前进展缓慢，因为德军奋力保持撤退线路畅通；一直到3月19日，克拉夫琴科的第6近卫坦克集团军才投入战斗。德军逃跑的通道最后被压缩到不足两英里宽，德军的大部都通过这一缺口逃走，丢弃了大部分重装备。当德军穿过巴科尼森林纷乱地向西撤退时，战斗发展成追击战。这是因为德军事先没有准备中间防御阵地，他们根本无法站住脚。3月25日，帕波被攻陷，苏军装甲部队开始向西北方的拉包河和奥地利边境推进。同一天，韦勒被解除南方集团军群司令的职务，由希特勒认为是防御专家的伦杜利克接任。这时，在北方的马利诺夫斯基的第2乌克兰方面军已经肃清了埃斯泰尔戈姆和赫龙河谷，并向布拉迪斯拉发推进。马利诺夫斯基的第2乌克兰方面军于4月4日攻占该城。
德军在匈牙利的抵抗已到了尽头。在北方，克赖辛指挥的德军第8集团军在马利诺夫斯基的第2乌克兰方面军进入奥地利前就迅速地撤退了。第6集团军和第6党卫军装甲集团军的部队为防守拉包河防线作了些努力，他们被势如破竹地攻入奥地利的第3乌克兰方面军所绕过。在南翼，沙罗欣的苏军第57集团军和保加利亚第1集团军，与安吉利斯的第2装甲集团军进行了殊死的战斗，终于在4月2日攻占了瑙杰考尼饶产油区。由于已经抵达奥地利边界，为轴心国作战，士气和热情本来就一直低落的匈牙利人便开始大批大批的投降，在4月底的前两天内，投降的不少于四万五千人。
伦杜利克一直到4月的第二个星期才到任就职。4月6日，在从库尔兰集团军群赴奥地利途中，他就被元首召见，听取情况介绍和接受命令。他曾描述过他乘汽车穿过已成断墙残壁的柏林街道前往总理府的情景。他说，总理府的外观和门厅似乎未遭破坏，可是他指出，内部马赛克大厅遭到严重破坏。在总理府地下，在元首生活和工作的地下避弹室里，希特勒亲自向这位新任集团军群司令介绍战场形势。就希特勒的身体外表而论，自从伦杜利克约三个月前见到他以来，他变了许多。他已弯腰曲背，拖着左腿，不断地用右手抓住左臂。可是伦杜利克认为，希特勒衰弱的身体并没影响他的精神状态。伦杜利克说，希特勒言谈、眼神和举止，仍象往常一样明晰和自信。元首说看来已无法阻止住俄国人了，伦杜利克的任务是要坚守维也纳，以及阻止敌人进入阿尔卑斯山，或北上进入多瑙河流域。希特勒已经作出了抉择，即主要敌人是俄国人，对英、美部队只是进行阻止或迟滞。元首坚信，德军奥得河一线的防御固若金汤。他说他极有信心。伦杜利克怀疑东线中部沉寂，可能是暴风雨的前奏，他想知道更多的产生这种乐观情绪的因素，但希特勒没有主动提供任何情况。伦杜利克疑惑地看了看约德尔，约德尔仅耸了耸肩。
伦杜利克就这样赴任去了，元首又重新全神贯注地研究他那些已经过时的作战地图。南方集团军群（即将改称厄斯特马克集团军群）的新任司令甚至没有得到元首的明确授权，还不能下令破坏维也纳的多瑙河大桥，他随后的行动的细节和部队在维也纳城内调动的详情，后来也都受到柏林的怀疑。
4月1日，苏军最高统帅部发出命令要及早攻克维也纳，因为奥地利首都作为德国占领区的交通中心，具有十分重要的战略意义。围攻该城的计划是：由彼得鲁舍夫斯基的第46集团军用一个坦克军和一个机械化军以及马利诺夫斯基的第2乌克兰方面军各部，从东部包围该城，扎赫瓦塔耶夫的第4和格拉戈列夫的第9近卫集团军，以及第3乌克兰方面军的克拉夫琴科的第6近卫坦克集团军，由南部和西部攻城。为了将第46集团军调往多瑙河的东岸，苏军利用布拉迪斯拉发附近的多瑙河区舰队，在五天内把七万二千人和五百门火炮运过了多瑙河和摩拉瓦河。4月6日，由第6党卫军装甲集团军守卫的维也纳郊区发生了巷战；但是由于战斗不会持续太久，特别是由于伦杜利克需要部队同时掩护奥地利西北部的齐斯特斯道夫产油区、维也纳以西本城和山脚之间的开阔地。德军4月10日从维也纳市中心撤离，这块余下的地盘三天以后就被苏军占领。其间，双方继续进行激烈的战斗，因为当伦杜利克让伤员向西撤退时，他想把苏军尽可能牵制在东部。
在北翼，接替希姆莱任维斯拉集团军群司令的海因里希据守奥得河下游一线。3月19日，希特勒被迫同意曼陀菲尔（接替了劳斯任第3装甲集团军司令）的第3装甲集团军撤离奥得河以东的什切青桥头堡。海因里希提出了两个可能性：东岸的第3装甲集团军要么今天晚上得救，要么第二天上午完蛋。他的话是中肯的，也不是没有效果的。德军在但泽、格丁尼亚和维斯拉河口仍扼守着一块飞地，希特勒拒不同意将这些地方的守军与第16和第18集团军经海路从库尔兰撤退。
其问，参谋总长古德里安处境日艰，他居职在位的日子已经屈指可数了。他的首席作战军官文克在一次车祸中受伤并已由西线莫德尔B集团军群的前任参谋长克雷布斯接替了他的职务。克雷布斯的军事生涯大都是在参谋部里度过的，只有几个星期的时间（当克斯特林回国度假时），他代替克斯特林任驻莫斯科武官。克雷布斯是布格道夫的朋友，自从施蒙特去世以后，布格道夫一直是希特勒的军事顾问和陆军人事局局长。布格道夫就所有重要的军队任命问题对希特勒负责，他和博尔曼与菲格莱因一起身居在希特勒周围抱得很紧的小圈子之中，同元首接近的程度远远超过古德里安，甚至超过约德尔和凯特尔。古德里安此时非但远远不能博得希特勒的信任，反而只能激怒希特勒，元首和布格道夫物色一个合适的参谋总长的继任人已经是在所难免了。克雷布斯前几个星期内在古德里安手下占据了作战方面的主要职务，所以精于当前的作战事宜。在希特勒的眼里，他是个唯命是从的人。正如施蒙特的朋友蔡茨勒被拉进来挤走哈尔德一样，经布格道夫的怂恿，克雷布斯取代了古德里安。4月1日，古德里安由于不称职而被解除了职务，而他在任职期间也象蔡茨勒一样一事无成。解除古德里安职务的时机，选择在布赛的第9集团军未能完成摧毁奥得河西岸屈斯特伦附近的苏军桥头堡，并击退围困的敌军这一任务的时候。这一挫折，使希特勒更加恼火，因为这将迫使他放弃一个雄心勃勃，而又不切实际的计划。这项计划要求维斯拉集团军群从奥得河上的法兰克福攻入第1白俄罗斯方面军的后方。
其间，西里西亚的局势并未停步不前。狂热的舍尔纳于4月20日接过中央集团军群（前A集团军群）的指挥权时，他的三支主要部队：第4装甲集团军、第17集团军和第1装甲集团军都在科涅夫的第1乌克兰方面军面前正从克拉科夫以东上维斯拉地域和东捷克斯洛伐克溃不成军地撤退下来。舒尔茨的第17集团军和海因里希的第1装甲集团军竭力设法使部队靠拢并保持有组织状态。可是格雷泽尔的第4装甲集团军的兵员损失严重，有必要抽调大量的人民冲锋队部队和警察部队来增援。舍尔纳的右翼由于失去了在撤退中自行解散的匈牙利第1集团军而受到进一步的削弱。中央集团军群撤至奥得河一线，这条防线从与维斯拉集团军群接界的尼斯河河口伸展到维也纳以北、中央集团军群与南方集团军群会合的地域，其长度足足超过三百英里。第4装甲集团军驻守在南勃兰登堡以西，与第17集团军一起守卫着格沃古夫、布雷斯劳、奥佩伦以西的西里西亚大工业区。第1装甲集团军撤到捷克斯洛伐克南部的一个大突出部内。西里西亚工业区仍在开足马力从事生产，成了德国手里主要的军火联合企业。舍尔纳拥有相当于十八个步兵师的兵力以及六个装甲师和装甲护卫师的部队。这些部队不足以扼守他的正面，而预备队他又一点没有。
科涅夫的第1乌克兰方面军1月23日已抵达奥得河，并占领了奥得河畔两个大桥头堡，一个在南部的布雷斯劳和奥佩伦之间的布热克附近，另一个在北部的施泰瑙地域的布雷斯劳和格沃古夫之间。内林的第24装甲军和绍肯的大德意志装甲军的兵员都不足，而且疲惫不堪，他们长途跋涉撤回奥得河畔的格沃古夫地域，在该地域的奥得河东岸，德军仍据守着一个桥头堡。希特勒和舍尔纳不顾两个军长的反对，命令这两个装甲军摧毁苏军的施泰瑙桥头堡。这一企图自然归于失败。
2月的第二个星期，科涅夫不顾缺乏增援和给养以及士兵的劳顿，他再次开始进攻。苏联的意图是占领奥得河以西的西里西亚，一直逼近到勃兰登堡的尼斯河一线，这样就可以让科涅夫的部队与朱可夫的第1白俄罗斯方面军共同准备向柏林、勃兰登堡和萨克森发动最后的攻势。2月8日科涅夫用四个步兵集团军和两个坦克集团军向格雷泽尔的第4装甲集团军发动进攻，突破了布雷斯劳以北的施泰瑙桥头堡。三天以后，科涅夫在九十五英里的正面上突入纵深四十英里，逼近尼斯河并包围了格沃古夫要塞内大约一万八千名德军。2月14日扎多夫的第5近卫集团军从布雷斯劳以南的布热克桥头堡向西北突击，并与来自施泰瑙桥头堡的格卢兹多夫斯基的第6集团军共同合围了布雷斯劳。因为3月3日柏林与西里西亚的铁路线已被切断，为了重新夺得对这条铁路的控制并援救格沃古夫的守军，格雷泽尔的第4装甲集团军发动了反突击。此时的德军部队已不具备发动攻势的能力，实际上，这些部队的编成内都是由一些不相识的指挥官、参谋人员把掉队的人员和分队临时拼凑而成的分队和团。许多人民冲锋队部队的军事价值是值得怀疑的。坦克和车辆没有燃料，又没有通信联络，所以意志力和狂热也都不能补偿空军和炮兵支援的缺乏。3月15日，科涅夫这次让他的左翼部队继续运动，以便占领远至捷克斯洛伐克边境的上西里西亚。对奥佩伦城是从两面进行攻击的，为了达到攻城的目的，还从已抵达尼斯河的先于他们发起进攻的部队中撤下了大量的部队。从格罗特考地域发动进攻的是一个集团军、一个坦克集团军和一个机械化军；而两个集团军，一个机械化军和一个坦克军从拉廷博以北的地域向西运动，所有的突击点都指向诺伊施塔特。至3月31日，上西里西亚已被占领。
苏军逼近并进入西里西亚促使德国居民大批出逃。1944年2月注入户口册的四百七十万居民到第二年4月中旬，只有六十二万留在被占领的西里西亚。象格沃古夫和尼斯一样，布雷斯劳也被定为要塞。第一任要塞司令是冯·阿尔芬，第二任司令是尼霍夫。当苏军围困布雷斯劳时，德军第17和第269步兵师奉命突围与主力部队会合，只把第609步兵师和一支由小部队和特遣队组成的杂牌部队留在要塞里。第609步兵师是仅在几个星期前在德累斯顿筹建起来的部队，在师部的所有军官内，除了师长外，只有一人曾在师的参谋部门工作过。该师的�