这场波澜壮阔的战争源于一次剑走偏锋的冒险战术谋划——史称“马邑之谋”，也叫马邑伏击战。马邑是个地名，位置大约在今天的山西朔州一带。马邑是西汉初年册封的诸侯韩王信的国都，后来韩王信遭刘邦猜疑，被逼投降匈奴，马邑也就成了匈奴属地。马邑的战略地位极其重要。汉武帝上位后，发兵将马邑夺了回来。匈奴人并不甘心，总是想重吞马邑。匈奴人经常派兵袭扰马邑，虽然未能重新攻占其地，但也给汉军造成了不小的麻烦。见汉武帝颇为焦虑，将军王恢献上一计：关门打狗。史书把王恢献上的这一奇策称作“马邑之谋”。
王恢对汉武帝说，他和马邑当地的一位豪强聂翁壹颇有交情，此前聂壹虽然沦陷敌占区，但一直心向汉室，帮咱做了不少事。而且这位聂姓土豪与匈奴长期贸易，和军臣单于很熟，很得大单于信任，马邑被咱们夺回后，匈奴军臣单于经常派细作找聂壹打探马邑的军情，目的是想重霸马邑。我们不妨利用聂翁壹，用他做钓饵引匈奴人上钩，然后来他个关门打狗，一鼓聚歼。
许多大臣不同意王恢的建议，认为还是继续与匈奴和亲最稳妥。汉武帝考虑再三，还是决定冒险一试。他对反对者们说：“让王恢去试试吧，如成功当然最好，若不成将匈奴人打痛或赶跑也好。”此时年少气盛的汉武帝，已经下决心和匈奴彻底翻脸，同时他也想利用“马邑之谋”试探下匈奴人的真正实力与底线。
以将军卫青为代表的主战大臣们都非常赞同武帝与王恢的谋略。大家分头准备与匈奴进行持久恶战的各项部署，汉武帝大规模反击匈奴的战争至此缓缓拉开序幕。
汉武帝命护军将军韩安国、轻车将军公孙贺、材官将军李息率三十万精锐埋伏在马邑周边的山坳里以逸待劳，待机聚歼进入包围圈的匈奴人。为保万无一失，武帝命将屯将军王恢、骁骑将军李广领三万骑兵出代郡以为侧翼掩护，任务是截杀匈奴的辎重并断其退路。准备妥当后，武帝命聂壹携带货物以贸易为由引诱匈奴军队入塞。
