1944年3月，蘇軍集中四個方面軍，意圖消滅曼施坦因的德軍南方集團軍群。首先，烏克蘭第一方面軍和烏克蘭第二方面軍，同時對德軍第1裝甲集團軍和第4裝甲集團軍發起猛攻，給德軍造成嚴重傷亡。此時德軍不僅缺少作戰物資和裝備，而且士兵嚴重缺員。仗打到這個時候，希特勒的手上也沒有更多的預備隊，為前線德軍提供增援。曼施坦因只好死守，但他的北翼防線很快就被蘇軍突破了。
瓦圖京意外去世後，朱可夫親自擔任烏克蘭第一方面軍的司令。儘管蘇軍士兵經過連續作戰已經非常疲憊，但此時，德軍已經處於崩潰的邊緣，因此，他下令烏克蘭第一方面軍從北翼向德軍側後方發起猛攻。科涅夫的烏克蘭第二方面軍從南方向德軍後方穿插。蘇軍這兩個方面軍兵力超過100萬，同時對德軍南方集團軍群發起鉗形攻勢，打算合圍德軍第一裝甲集團軍，首先消滅曼施坦因的裝甲部隊。
胡貝指揮的第1裝甲集團軍有3個裝甲軍，有20多萬人。但是由於在戰鬥中消耗嚴重，又得不到補充，三個裝甲軍實際上只有100多輛可以投入作戰，而且絕大部分是突擊炮，只有14輛虎式坦克，和10輛豹式。胡貝已經意識到，眼下第一裝甲集團軍必須迅速突圍，否則將會全軍覆沒。胡貝認為，蘇軍在南線的防禦力量薄弱。他打算率領第一裝甲集團軍南下，進入羅馬尼亞。
胡貝把撤退方案報告給希特勒，希特勒也支援他的方案。但胡貝向南撤退的方案，卻遭到曼施坦因的竭力反對。曼施坦因看來，朱可夫肯定會料到德軍會向南撤退，因此，胡貝的撤退方案，將正中蘇軍的下懷。同時，德軍的情報部門也證實，蘇軍已有大批部隊正在向南線運動。曼施坦因斷定，此時朱可夫往南線集中兵力，等候德軍進入包圍圈。
曼施坦因認為，一旦第一裝甲集團軍向南方撤退，德軍南方集團軍群的北翼防線就會暴露，將會威脅到第四裝甲集團軍的安全。只有第一、第四兩個裝甲集團軍聯手，才有可能擋住蘇軍的猛烈進攻。於是，他命令胡貝向西線撤退。但胡貝卻堅持認為，只有向南突圍才能避免被蘇軍圍殲。胡貝甚至直接給希特勒發電報，希望他能同意第一集團軍向南方突圍的計劃。
1944年3月25日，曼施坦因親自飛往伯格霍夫面見希特勒，兩人針對胡貝的撤退方案大吵了一架，曼施坦因以辭職為要挾，最後，希特勒同意了曼施坦因的方案。1944年3月26日，蘇軍坦克第4集團軍、近衛坦克第3集團軍對德軍發起進攻，烏克蘭第二方面軍的第40集團軍也從南面迂迴到了德國第一裝甲集團軍的側後方，蘇軍還攻佔了霍京，3月28日，第一裝甲集團軍已經被蘇軍全部包圍。
此時，希特勒下令解除了曼施坦因的德軍南方集團軍群司令的職務，由莫德爾接任。雖然已經決定向西方突圍，但胡貝先讓部隊向德涅斯特河移動。朱可夫立即下令坦克第4集團軍和步兵第30軍前往德涅斯特河一線攔截。但胡貝的部隊剛抵達德涅斯特河北岸，就馬上向西突圍，這讓科涅夫和朱可夫有些措手不及。胡貝命令德軍的坦克部隊抓緊時間向西突圍，步兵則分成三個戰鬥群，各自突圍。
德國空軍不顧疲勞和惡劣的天氣，給胡貝的部隊空投大量物資，為第一裝甲集團軍的突圍行動創造了更好的條件。根據曼施坦因在任時的軍事部署，黨衛軍第2裝甲軍、第100輕步兵師和第367步兵師，從西南方向蘇軍發起猛攻，接應胡貝的突圍。4月6日，兩支德軍在布扎科會合，第一裝甲集團軍的20多萬人，成功逃出蘇軍的包圍圈。德軍傷亡1。4萬人，陣亡和失蹤官兵6000多人，但大部分重型裝備都保住了。