宋文帝认为东路军败退，魏兵深入南境，西路柳元景等军不宜独进，遂令其撤退。于是弘农、陕城、潼关又为魏占有，西路军所取得的辉煌成果，遂付之东流。刘宋东路军的败退，实际上影响了整个北伐战局，此后北魏发起全面进攻，刘宋则由全面进攻转为全面防守。
魏军反攻初胜后，太武帝遂命诸将分兵5路大举南下：
1、征西大将军、永昌王拓跋仁自洛阳向寿阳（今安徽寿县）；
2、尚书长孙真向马头（今安徽怀远南）；
3、楚王拓跋建向钟离（今安徽凤阳东北）；
4、高凉王拓跋那自青州（魏青州治今山东广饶）向下邳（今江苏邳县西南）；
5、太武帝亲率主力自驻地东平（今山东东平东）向邹山（今山东邹城东南）
十一月初，太武帝大军进攻邹山，宋戍主、鲁阳阳平2郡太守崔邪利投降。太武帝进驻邹山。
与此同时，楚王拓跋建军进驻彭城门户萧城（今安徽萧县西北），另军步尼公进屯彭城另一门户留城（今江苏沛县东南）。镇守彭城的宋武陵王、徐兖2州刺史刘骏与驻在彭城节度北伐诸军的江夏王、太尉刘义恭派参军马文恭、军主嵇玄敬率军分别进至萧城、留城，观察魏军的动向。马文恭、嵇玄敬2军先后与魏军遭遇，马文恭军大败，文恭只身逃回。嵇玄敬军由于当地百姓的协助，取得胜利，魏军遭到失败。当时，萧城魏军距彭城仅10里之隔，彭城守军虽多，但军粮匮乏，形势十分危急。刘义恭欲弃城南逃，安北长史、沛郡太守张畅力谏不可。他说：“今城内乏食，百姓咸有走情，但以关扃严固，欲去莫从耳。若一旦动脚，则各自散走，欲至所在，何由可得。今军食虽寡，朝夕犹未窘罄，量其欲尽，临时更为便宜，岂有舍万安之术，而就危亡之道”。刘骏认为张畅所言有理，也劝义恭留镇彭城。刘义恭才决意坚守彭城。太武帝率大军进至彭城，宋军据城固守，魏军不能克。
