刘宋建国之初，北方除北魏外，还着北凉、西凉、西秦、夏、北燕五国;此外，阴山以北，还有强大的柔然部落。其夏和柔然部是魏的劲敌。刘宋虽只有半壁江山，对外却可专注，形势比较有利。其时，宋在河南还占有洛阳、虎牢、滑台、碻磝四个重镇，往东包括今山东省的大部分，济南、淄博、青州等城市都在宋的境内,建康离北方边境较远，所以比起东晋初年，它的局势要安稳得多。魏明元帝死后，太子拓跋焘嗣位，是为世祖太武帝。太武帝初年(即宋元嘉初年），魏与夏、与柔然的战争连绵不断，宋文帝利用这时机，于元嘉六年向魏要求归还河南各地，声称否则要用武力夺取。太武帝听了，付之一笑而已。
北伐过程
元嘉七年，宋文帝命到彦之率军北伐。 四月，到彦之率五万之众，走水路由淮河入泗水，至七月才到须昌（今山东东平东），然后溯黄河西进。魏因碻磝、滑台、虎牢、金墉四镇兵少,主动撤出。到彦之军不费吹灰之力，便轻易收复四镇，又进屯灵昌津(在今河南延津县北）的南岸，使先头部队西进直抵潼关。宋军将士皆大欢喜，只有曾从檀道济作战的旧将王仲德不以为然，他料定魏军有计，一定是在等待冬季河上冰冻时反攻。魏崔浩更看穿到彦之的弱点: 把几万人棑成东西二千里 的一字长蛇阵，每一处只有几千人，力量非常薄弱。
到彦之沿河布防后，就带着王仲德回东平须昌的大本营去了。到了冬天，十月，魏军渡河反攻，攻下洛阳、虎牢。十一月， 宋文帝命檀道济率兵伐魏。但是到彦之失了洛阳、虎牢，先已胆怯，引军从水路撤退，到了历城(今山东济南），便烧掉船只，丢掉铠甲，徒步退往彭城，魏兵追到历城。济南太守萧承之只有几百个兵，他命部下大开城门，敝出毫无戒备的样子。魏军大队人马到了城下，见了这等模样,估计必有伏兵，不敢进城而去。宋军这次冬季失败， 损失惨重，府藏、武库为之一空。
元嘉八年(431年）正、二月间,檀道济北上救滑台，进至历城，二十多天中，打了三十多仗，重创敌军。魏叔孙建用骑兵小部队袭击他的运输线，焚烧草谷。檀道济部缺粮，不能前进，滑台终于失守，守将朱脩之被俘。檀道济粮尽退兵，部下有人叛逃，把虚实告诉魏军, 魏再发兵追击，宋军恐惧，随时可能溃散。檀道济在夜间宿营时，唱筹量沙，把剩下来的一点米铺在沙上，装出存粮极多的模样，魏军探知，以为降兵骗人，把他杀了。道济又故作镇静，命军士披甲，自己只穿便服，坐了轿子，慢吞吞地行走。魏军 见了，以为是诱敌之计，不敢再追，檀道济方得全军而归。宋军北伐至此完全失败。
