公元前三世紀的戰國時期，在我國北方的大草原上興起了一個遊牧民族——匈奴。秦末漢初，匈奴勢力達到極盛，統治著東到大興安嶺，西到祁連山、天山，北到貝加爾湖，南到河套的廣大地區。匈奴貴族為了掠奪財物和奴隸，經常南下騷擾中原王朝的北部邊疆。
西漢初年，漢王朝由於經濟力量尚未恢復起來，而且內部不夠穩定，從劉邦到漢武帝初年，一直對匈奴採取和親政策，每年送給匈奴大量的禮物和金錢。但是，和親政策並沒能阻擋匈奴貴族的掠奪，北部邊疆的生產時常遭到破壞，無數漢族人民被搶走或殺死。漢武帝即位後，專制集權空前強化，社會經濟有了很大發展，軍事力量也得到加強。漢武帝決定改變和親政策，發動了全面反擊匈奴的大規模戰爭。衛青和霍去病正是在這場戰爭中湧現出來的傑出將領。
衛青是繼李廣之後，漢朝抗擊匈奴的大將。他是個私生子，被人看不起，受此影響，小時候的衛青是個胸無大志的人。有一次，一個相士對他說道：「你現在窮困，將來定為貴人，官至封侯。」衛青笑道：「我身為人奴，只求免遭笞罵，已是萬幸，哪裡談得上立功封侯呢？」但是後來衛青運氣不錯，他同母異父的姐姐衛子夫被漢武帝劉徹看中，成了寵妃，因著裙帶關係當了將軍，自己被皇帝的姐姐平陽公主看上，當了駙馬；他和李廣曾分別率領萬人出戰匈奴，李廣多次移動部隊都沒有遇到敵人，因而無法戰鬥，就在鬱鬱寡歡地歸隊的當兒，衛青卻撿了個漏子，遇上小伙敵軍，輕輕鬆鬆的打了個勝戰，從此更受青睞。這並不只是因為沾了姐姐的光而已，衛青本身也是一個相當有能力的人。
漢朝對匈奴的反擊，使得匈奴的進犯更加猖狂了。公元前 128年的秋天，匈奴騎兵大舉南下，先攻破遼西，殺死了遼西太守，又打敗漁陽守將韓安國，劫掠百姓兩千多人。漢武帝派匈奴人敬畏的飛將軍李廣鎮守右北平（今遼寧省凌源西南），匈奴兵則避開李廣，而從雁門關入塞，進攻漢朝北部邊郡。漢武帝又派衛青出征，並派李息從代郡出兵，從背後襲擊匈奴。衛青率三萬騎兵，長驅而進，趕往前線。衛青本人身先士卒，將士們更是奮勇爭先。斬殺、俘獲敵人數千名，匈奴大敗而逃。
公元前127年，匈奴貴族集結大量兵力，進攻上谷、漁陽。武帝決定避實擊虛，派衛青率大軍進攻久為匈奴盤踞的河南地（黃河河套地區）。這是西漢對匈奴的第一次大戰役。
衛青率領四萬大軍從雲中出發，採用「迂迴側擊」的戰術，西繞到匈奴軍的後方，迅速攻佔高闕（今內蒙古杭錦後旗），切斷了駐守河南地的匈奴白羊王、樓煩王同單于王庭的聯繫。然後，衛青又率精騎，飛兵南下，進到隴西，形成了對白羊王、樓煩王的包圍。匈奴白羊王、樓煩王見勢不好，倉惶率兵逃走。漢軍活捉敵兵數千人，奪取牲畜一百多萬頭，完全控制了河套地區。因為這一帶水草肥美，形勢險要，漢武帝在此修築朔方城（今內蒙古杭錦旗西北），設置朔方郡、五原郡，從內地遷徙十萬人到那裡定居，還修復了秦時蒙恬所築的邊塞和沿河的防禦工事。這樣，不但解除了匈奴騎兵對長安的直接威脅，也建立起了進一步反擊匈奴的前方基地。衛青立有大功，被封為長平侯，食邑3800戶。
匈奴貴族不甘心在河南地的失敗，一心想把朔方重新奪回去，所以在幾年內多次出兵，但都被漢軍擋了回去。公元前124年春，漢武帝命衛青率三萬騎兵從高闕出發；蘇建、李沮、公孫賀、李蔡都受衛青的節制，率兵從朔方出發；李息、張次公率兵由右北平出發。這次總兵力有十幾萬人。匈奴右賢王認為漢軍離得很遠，一時不可能來到，就放鬆了警惕。衛青率大軍急行軍六、七百里，趁著黑夜包圍了右賢王的營帳。這時，右賢王正在帳中擁著美妾，暢飲美酒，已有八九分醉意了。忽聽帳外殺聲震天，火光遍野，右賢王驚慌失措，忙把美妾抱上馬，帶了幾百壯騎，突出重圍，向北逃去。漢軍輕騎校尉郭成等領兵追趕數百里沒有追上，卻俘虜了右賢王的小王十餘人，男女一萬五千餘人，牲畜幾百萬頭。漢軍大獲全勝，高奏凱歌，收兵回朝。
漢武帝接到戰報，喜出望外，派特使捧著印信，到軍中拜衛青為大將軍，加封食邑8700戶，所有將領歸他指揮。衛青的三個兒子都還在襁褓之中，也被漢武帝封為列侯。衛青非常謙虛，堅決推辭說：「微臣有幸待罪軍中，仰仗陛下的神靈，使得我軍獲得勝利，這全是將士們拚死奮戰的功勞。陛下已加封了我的食邑，我的兒子年紀尚幼，毫無功勞，陛下卻分割土地，封他們為侯。這樣是不能鼓勵將士奮力作戰的。他們三人怎敢接受封賞。」漢武帝隨後又封賞了隨從衛青作戰的公孫敖、韓說、公孫賀、李蔡、李朔、趙不虞、公孫戎奴、李沮、李息、豆如意等。
衛青後來又多次帶兵出擊匈奴，都是大勝而歸，為穩定邊疆立下了汗馬功勞。但是，他並沒有因為自己是皇帝的小舅子，就倨功自傲。他作官極為謹慎。在外面打仗，有人犯了軍法，衛青也不理會「將在外，軍令有所不受」那一套，特意將犯人交由皇帝處置，以示人臣不敢專權。這使漢武帝更加喜歡他了。
後來，漢武帝對霍去病恩寵日盛，霍去病的聲望超過了他的舅舅衛青，過去奔走於大將軍門下的許多故舊，都轉到了霍去病門下。衛青門前頓顯冷落，可他不以為然，認為這也是人之常情，心甘情願地過著恬淡平靜的生活。