漢武帝劉徹出生於公元前156年（景帝前元元年）七月初七，是漢景帝劉啟的第十子、漢太宗劉恆的孫子、漢太祖劉邦的重孫子。他出生這年，碰巧這年又是景帝登基之年。武帝的母親是王美人，美人是嬪妃的一種等級。
劉徹的母親王娡進宮前曾嫁作金家婦，生有一女。劉徹的外祖母聽了算命的話，將她從金家帶走，進與皇太子，也就是後來的漢景帝。後來傳說在武帝母親懷孕時夢見了太陽鑽入懷中，漢景帝聽說了，很高興，認為是個吉利的夢，預示著小孩子將來會有大作為。
在武帝4歲時，景帝封他為膠東王，做太子的是他的哥哥劉榮。後來，武帝的命運轉折靠了景帝的姐姐長公主的幫助。長公主有個女兒叫陳阿嬌，開始長公主是想把自己的女兒許給太子劉榮，將來太子一即位，女兒就是皇后了。但是太子的母親栗姬卻不領情，這使長公主非常生氣，從此與栗姬作對。
長公主將目光轉向了平時也很喜歡的武帝，但武帝的父親景帝不太支持。長公主便想辦法促成了此事：有一次，她在景帝的面前故意問武帝願不願意要阿嬌做他的妻子？武帝也很喜歡阿嬌，見姑姑問，便很大方地說：「以後如果能娶阿嬌做妻子，我就要親自建造一棟金屋子送給她。」父親景帝見武帝和阿嬌也很般配，便同意了這門親事。
7歲時被冊立為太子，16歲時公元前141年3月21日登基，漢武帝即位初，一方面政治形勢比較穩定，國家經濟狀況也相當好，另一方面諸侯王國的分裂因素依然存在。所以，他在繼續推行景帝時各項政策的同時，採取了一系列強化中央集權的措施。
在政治方面，採納主父偃的建議，頒布「推恩令」，使諸侯王多分封子弟為侯，使王國封地被分割，削弱漢初分封的諸侯國勢力，加強監察制度等。其次建立中朝削弱相權，鞏固皇權，設刺史、立平准均輸等。為加強對地方的控制，打擊地方豪強，他設置十三州部刺史，京師七郡另設司隸校尉監察，建立了一套系統完整的政治制度，成為此後二千年間中華帝國制度的基本範式。
在惠文景帝期間，丞相大多主要是隨劉邦打天下的功臣丞相受到禮遇，武帝和丞相多有不合，經常會借口打壓殺死丞相，導致朝中大臣不願意接任丞相之職。為貫徹自己的命令，他便設立中朝，尚書檯也是這一時期出現的。