跟日耳曼民族不斷侵略羅馬帝國一樣，中國中原王朝的富庶對於居住在寒冷荒涼地帶的匈奴來說，一直是難以抗拒的誘惑。
秦漢時期，北方的匈奴始終對中原王朝是個巨大的威脅。在秦代，匈奴曾一度為大將蒙恬所擊敗，逃往漠北，十多年不敢南下。秦朝覆亡後，匈奴趁楚漢相爭、無暇北顧之機再度崛起。在驍勇善戰的冒頓單于統率下，四面出擊，重新控制了中國西北部、北部和東北部的廣大地區。西漢王朝建立後，匈奴依然是漢民族和平生活的重大威脅：數次入侵邊境，攻城屠邑，掠奪財物和人口，給西漢北方地區民眾帶來沉重的災難。
忍辱負重，休養生息
西漢開國皇帝劉邦對匈奴的屢屢犯境非常憤怒。公元前200年，劉邦乘著剛剛擊敗項羽、統一中國的餘威，率領大軍向匈奴進攻。雙方在白登山展開激戰，結果漢軍隊大敗，劉邦被圍七天七夜，幾乎被俘，後以重金收買了匈奴首領，才得以突圍。
劉邦自此認識到漢朝實力不足，開始休養生息，發展生產，但在處理與匈奴關係上仍苦思不得良策。不得已，劉邦採用了婁敬的建議，以漢家公主和親匈奴，並贈送絲綢、糧食等物品，與其約為兄弟，以緩解其襲擾。在軍事上，則主要採取消極防禦的方針，盡量避免與匈奴進行決戰。
漢高祖之後，文帝和景帝繼續推行休養生息政策，積極發展生產。
但歷代的和親政策並沒有遏制匈奴的襲擾活動，反而使他們認為漢朝軟弱可欺，因此在邊境鬧得越來越凶。
邊患大事，一日不忘
公元前140年，漢武帝劉徹即位時，漢帝國經過60多年休養生息，經濟有了很大發展。國力的強盛為漢武帝的戰爭動員和實施創造了有利的條件。
漢武帝是一個具有雄才大略的政治家，他不滿足於王朝貴族故步自封的做法，希望能有大的作為。
漢武帝在位最初的幾年，雖然還延續著前幾任的和親政策，但他一直在尋找機會改變傳統政策，徹底擊退匈奴，解除邊境安全隱患。他曾對大將軍衛青說：「漢家庶事草創，加四夷侵凌中國。朕不變更制度，後世無法。不出師征伐，天下不安。」漢元帝時擔任西域都護府副校尉的陳湯曾在向中央陳述攻打匈奴的理由時說：「凡侵犯中國的，逃得再遠，也要誅殺。」這句話最能代表漢武帝的想法(原文：「明犯強漢者，雖遠必誅」———編者注)如此氣概，當為後世敬仰。
此後，積極發展軍事力量成了漢武帝的重要任務。他認識到漢軍戰鬥力弱的問題，便積極從匈奴那裡學習先進的騎兵突擊戰術，以及鑄造鋒利而結實的戰鬥武器技術等。
同時，漢武帝不拘成法，大膽起用一些勇猛而功名心強的將領，陸續清除一些思想僵硬腐化的軍事將領。
為加強邊防建設，漢武帝將大量民眾遷往邊境，在那裡建立城邑，並對邊郡居民進行軍事訓練。還在邊郡設立馬苑，大量養馬，官府養馬達45萬匹，奠定了建設大騎兵集團的基礎。武帝還創置了北軍八校尉，其中四校尉都是為建設騎兵而置。至此，漢朝建立起一支由10萬—15萬騎兵和數十萬步兵組成的強大軍隊。
組織辯論，明確態度
為推行攻擊匈奴的策略，公元前133年，漢武帝在御前主持了一場規模空前的是否需要打擊匈奴的辯論。
漢武帝的觀點是：漢朝對匈奴的大量饋贈示好，不但沒有滿足這些野蠻人的貪慾，反而更激起他們對漢朝巨大財富的覬覦之心。朝野上下已經對匈奴毫無信用、反覆無常的行徑感到無比厭煩，確認這是一群不可以用道義來約束的野蠻部落。對於這樣的邊患，如果不徹底清除，反倒會讓其覺得軟弱可欺，國家邊境也不會獲得永久的和平。
辯論開始後，漢武帝發現朝廷中的論調明顯分為兩種：支持和親者認為匈奴難以降伏，還是應該繼續以前的和親策略;主張用兵的大臣則尖銳地指出，和親只會助長匈奴囂張的氣焰，會向朝廷提出更多的無理要求，對他們的寬容忍讓絕不能再繼續下去，並且，事實證明匈奴的存在對漢朝的安全構成了嚴重的威脅。後來，大行令王恢提出一個大膽而又誘人的計劃：在馬邑設下埋伏，用計誘使匈奴單于上鉤，一舉消滅。這個方案打動了漢武帝，他義無反顧地決定出兵攻打匈奴。
公元前133年，漢武帝派王恢統領30餘萬軍隊，埋伏在馬邑城(山西朔州)左右山谷之中，然後設計引誘匈奴進擊。但在最後關頭，被匈奴單于識破計謀，匈奴急忙撤退。漢匈兩國的邦交從此破裂。
傾力靖邊，遠驅匈奴
此後，漢武帝更為苦心地經營征伐匈奴的計劃，他精心挑選最傑出的軍事統帥衛青、霍去病分別率軍深入敵巢，並集合了李廣、趙破奴等一大批傑出的將軍。漢軍鬥志高昂，都希望在與匈奴的決戰中立下不朽的功勳。
驃騎將軍霍去病親自對武帝許下誓言：「匈奴未滅，無以家為也。」漢武帝最終將領兵重任托付給了他。
但最終與單于主力交鋒的是大將軍衛青。當時衛青已出塞千里，正好遇到伊稚斜單于在此擺好陣勢。衛青冷靜地命令用軍中的武剛車環列為營，派出五千精騎與伊稚斜交鋒，匈奴也派出萬騎。戰鬥進行之中，衛青又令軍隊分左右兩翼包抄。伊稚斜見漢兵強盛，心中不安，到傍晚時分，偷偷騎上健壯的騾子在數百名匈奴勇士的保護之下突圍逃走。衛青察覺之後，急命輕騎追擊出二百多里，最終沒有趕上，被其僥倖逃脫。衛青繼續清剿匈奴餘眾，前後斬殺萬餘人，一直殺到趙信城。這裡有匈奴積攢的糧食，漢軍就此休整一日，將城裡剩餘的糧食焚燒，從容回師。
霍去病也率領精兵深入大漠兩千餘里，轉戰匈奴腹地，如入無人之境，斬殺匈奴7萬多人。最終封狼居胥，禪姑衍，臨瀚海，耀武揚威而還。匈奴雖未盡滅，也大無生氣了。此次殺敵近十萬，匈奴喪膽，漢軍士氣大振。
自此以後，匈奴遠沒有過去猖狂，漠南也再沒有匈奴的王廷存在。匈奴躲在漠北寒苦之地不敢再對漢朝有非分之想。漢武帝對匈奴發動的決戰最終取得了圓滿的勝利，所做的戰略設想全部成功實現。
漢武帝為擊敗匈奴，雖然耗費了巨大的人力、物力，使社會經濟發展受到一定阻礙，但從長遠意義來看，匈奴被擊敗後，漢朝獲得了長久和平的經濟發展環境，國力不斷上升，從而為中華民族開闢了一個廣為後世稱頌的新時代。