漢朝建立後，劉邦開始著手管理國家各類事務，發現了一件讓他很頭疼的事情。北方草原和荒漠中居住著大批少數民族，漢人稱之為匈奴，秦始皇在一統江山後曾派大將軍蒙恬和匈奴作戰，收復了河套地區，在秦朝逐漸敗落的時候，匈奴的頭領頭曼單于被自己的兒子冒頓單于殺死，冒頓繼位後吞併了別的小政權部落，勢力日益壯大，並趁楚漢之爭的機會把河套地區重新奪了回去，還佔領了朝那（今寧夏回族自治區固原市東南）、膚施（今陝西省榆林市南）幾個地方，虎視眈眈地注視著中原大地。
漢朝建立後，韓王信因為戰績顯著而被劉邦封王，賞賜穎川地區，都城定在陽翟。
公元前201年，劉邦擔心韓王信所在的封國離北方遊牧民族較近，日後會和匈奴勾結，便借口抵禦匈奴入侵，要求韓王信從陽翟（今河南禹州）搬遷到晉陽（今山西太原），韓王信卻請求劉邦把自己派到馬邑（今山西朔州）去，劉邦答應了。不料韓王信遷去馬邑不久，匈奴就開始攻打馬邑，這一下，劉邦對韓王信的懷疑更加深了，他寫了一封措辭嚴厲的書信，韓王信一看，知道劉邦對自己已經有了誤會，乾脆一不做二不休，真的和冒頓單于勾結起來共同攻打漢朝，並主動把馬邑獻給冒頓單于。接著韓王信帶領匈奴部隊闖破雁門關，一路南下攻佔了太原郡。
公元前200年，漢高祖劉邦決定親自出征平定匈奴、鎮壓韓王信。一開始漢軍接連獲勝，在銅鞮（今陝西沁縣附近）交戰時，韓王信的軍隊受到重創，一名將領被漢軍殺死，韓王信連連潰逃，跑到匈奴的地方躲了起來，他的幾名部下找到了戰國時期趙國王室後裔趙利，立他為王，然後把韓王信的殘餘部隊規整起來繼續和漢軍作戰。
匈奴佈置了一條很長的陣線，從廣武（今山西代州陽明堡鎮）到晉陽，以此來阻止漢軍北上。漢軍攻破了陣線，晉陽一戰令韓王信和匈奴的部隊又損失了很大一部分，後來漢軍在離石（今山西呂梁離石區）第三次打敗韓王信和匈奴的部隊。匈奴重新調集人馬部署在樓煩西北，又被劉邦的騎兵隊打敗。一連幾次勝仗讓劉邦沾沾自喜，不覺產生驕傲輕敵的思想。當時匈奴的軍隊退居在代谷（今山西繁峙和原平中間），劉邦的軍隊駐紮在晉陽，經過前幾次激烈交戰後，劉邦認為匈奴勢力已經大減，打算一鼓作氣把他們全部消滅。在發動進攻之前，他想知道匈奴的現狀如何，於是派了好些人去前線打探消息，誰知被冒頓單于知道了，就把匈奴軍隊中的精銳士兵都藏在後方，盡安排些沒有作戰能力的士兵排在隊伍的前面。前來打探消息的使者一看，樂得馬上回去和劉邦匯報情況，每個人都贊成立即發動進攻，劉邦決定派劉敬去查探一下，看看情況是否屬實。劉敬回來後和劉邦說：「匈奴軍隊看起來確實不勝作戰，但冒頓單于肯定把精銳部隊都藏了起來，故意迷惑我們，臣以為漢軍不可輕舉妄動。」劉邦一聽就不樂意了，開口就責罵劉敬貪生怕死，滅自己威風助他人氣焰，他下令把劉敬囚於廣武城的監獄裡，等到打敗匈奴之後再來處置。
劉邦先帶領騎兵隊趕去平城（今山西陵川北）部署作戰前的準備，等步兵隊到達之後就可以開戰。當騎兵隊走到白登山的時候，埋伏在此的匈奴軍隊立刻現身，前堵後截，令漢軍動彈不得，騎兵隊只帶了少量糧食，步兵隊一時半會兒無法趕來支援，劉邦指揮了幾次突襲，都沒有衝出包圍。冒頓單于把士兵分成四隊，從四個方向圍住漢軍，輪流發動進攻。幾次下來，兩方軍隊重傷不斷，誰也沒有制服對方。北方的冬天特別冷，漢軍士兵都是南方人，經受不住嚴寒，很多人身上都有了不同程度的凍傷，嚴重的被凍掉了手指頭。匈奴軍隊雖然糧草充足，裝備齊全，但漢軍誓死抵抗，一點可乘之機也沒有。
兩軍在白登山對峙七天，劉邦愁得向身邊將領徵求解圍的辦法，陳平告訴劉邦，冒頓單于特別寵愛閼氏，不妨派使臣帶著金銀珠寶去賄賂她，說不定能引得單于退兵。劉邦答應了，陳平和另一位將領帶著珠寶首飾和一幅美人畫卷偷偷潛入匈奴營中，找到了閼氏，把珠寶和美人圖先給她，並承諾如果匈奴退兵，還會奉上更多的珠寶，並把畫中的美人獻給單于。閼氏欣喜地接過珠寶首飾，等看到美人圖的時候，想到如果美人真的被獻給單于，自己一定會失寵，於是她答應勸冒頓單于放過漢朝皇帝，請陳平把美人圖收回去。晚上，閼氏對冒頓單于說：「兩軍交戰始終沒有分出勝負，雙方都損失不少。即使單于得到了中原，我們也不可能習慣那裡的生活環境和飲食，何必非要和漢朝爭奪呢？況且漢朝皇帝被困許久，始終沒有大礙，無疑有神明相助，單于還是放他們離開吧。」冒頓單于聽了，似信似疑，第二天去觀察漢軍，始終不見慌亂的情況，就相信了閼氏的話，下令撤走一部分軍隊，讓劉邦突出重圍。劉邦率騎兵隊匆忙從匈奴隊伍的缺口中逃出去，回到都城後的第一件事就是把之前贊成攻打匈奴的人都殺了，然後把劉敬從監獄裡放出來，封他為關內侯，賞賜了不少財產。
冒頓單于雖然放走了劉邦，卻一直騷擾北方邊界上的城鎮，劉敬建議漢高祖把公主嫁給單于，以和親的政策維持邊界安穩。呂雉不肯讓女兒去和親，劉邦找了個女孩代替公主嫁給冒頓單于，帶著大批金銀布匹，由劉敬護送前往北方，同時還承諾每年送給匈奴一定量的糧食和生活用品。這一舉措緩解了漢朝和匈奴的關係，讓漢朝的百姓免去了戰爭之苦。