。匈奴在此时攻下一边防小亭，俘获了汉雁门尉史。在威胁下，尉史将汉军的计谋全部说出。军臣单于听后大惊之后继而大喜，说道：“我得到尉史不上汉天子的当，真是上天所赐”。于是封尉史为“天王”，下令立即撤军。
王恢、李息率领的3万大军已出代郡，准备袭击匈奴的辎重，在得知匈奴退兵后，非常惊奇。王恢自思自己的军队敌不过匈奴大军．只好退还。韩安国等率领大军分驻马邑境内埋伏，但好几天不见动静，遂改变原先的作战方案，率军出击，结果一无所获。
“马邑之围”失败后，汉武帝以王恢提出战争却临阵脱逃，将王恢下狱。廷尉判处王恢畏敌观望死刑。王恢虽买通田蚡通过汉武帝的母亲王太后求情，但仍无法平息汉武帝的愤怒，王恢被迫自杀谢罪。
“马邑之围”之后，匈奴拒绝与西汉朝和亲，在边境拦路劫掠，或者出兵四处袭击汉朝边郡，以报复马邑之围，数量多的数不过来。
后世认为：“马邑之围”虽未成功，但却使汉朝结束了自西汉初年以来奉行的屈辱的“和亲”政策，同时也拉开了汉匈大规模战争的序幕。汉武帝开始对匈作战，派卫青、霍去病征伐，解除匈奴威胁，保障了北方经济文化的发展。
后世史书对于马邑之谋的评价基本上以史记的描述为基础：
《资治通鉴》：设马邑之权，欲诱匈奴，徒费财劳师，一虏不可得见，况单于之面乎！其后深惟社稷之计，规恢万载之策，乃大兴师数十万，使卫青、霍去病操兵，前后十余年，於是浮西河，绝大幕，破窴颜，袭王庭，穷极其地，追奔逐北，封狼居胥山，禅於姑衍，以临瀚海，虏名王、贵人以百数；自是之后，匈奴震怖，益求和亲，然而未肯称臣也。
《续资治通鉴长编》：昔汉之王恢，欲徼一时之幸于匈奴，故为马邑之役，孝武许之，是恢欲奉诏以从事也。然后以谋出于恢，故下吏不赦，使恢自杀。
《典论》：孝武帝承累世之遗业，遇中国之殷阜，府库馀钱帛，仓廪畜腐粟。因此有意平灭匈奴而廓清边境矣。故即位之初，从王恢之书，设马邑之谋。
《宋书》：武帝修约，不废马邑之谋。故有余则经略，不足则闭关。
《三朝北盟会编》：王恢马邑之谋罪必加於戎首。
谷应泰：古者天子有道，守在四裔。保境固圉，毋生戎心。是故马邑之诱，加罪王恢；郅支之诛，靳封延寿。盖以勤兵远略，轻开边衅，非细故也。
……
而在马邑之谋当中，出现的是一个在汉武帝对匈奴战争前期有着一定地位的汉军名将，这个人就是李息。
李息少年时从军，起初侍奉汉景帝刘启。后元三年（公元前141年）正月，汉景帝去世，皇太子刘彻即位，是为汉武帝。汉武帝即位之初，采用和亲政策，羁縻匈奴，但匈奴野心不敛，仍派兵四处侵扰，使西汉边疆动荡不安。随着西汉经济的进一步发展和军力的强大，汉武帝决定举兵反击匈奴。
元光二年（公元前135年）六月，汉武帝任命李息为材官将军，随同御史大夫韩安国率领三十万大军驻守在马邑。他们派马邑（今山西朔州）人聂翁壹（《汉书》作聂壹）以献马邑城为诱饵，引诱匈奴单于孤军深入、一举歼灭，于是匈奴单于亲率十多万骑兵越过边界进入汉地。当匈奴单于走到距离马邑城还有一百多里路的地方时，发现原野里布满牲畜却不见放牧的人员，感觉不对劲，就停止进军。当他们捉住出来巡视的雁门都尉史，经过拷打审问，才得知汉军的伏兵正在马邑一带张网以待，非常惊恐，于是立即下令退军，免遭一场大难。匈奴由此发现汉朝已准备以武力与他们相对抗，从此，汉朝与匈奴之间的大规模战争就此开始