劉邦之所以膽敢襲擊章邯等人，是因為當時齊國已經顯露出不滿的跡象，出身原齊國貴族世家的田榮因為對項羽不滿，廢了項羽冊封的齊王，自己取而代之，然後叫囂著要打敗項羽。一邊是劉邦佔領了關中的大部分地方，一邊是齊國的躁動，項羽不知道該先鎮壓哪一方。張良這時給項王寫了封信，說劉邦只要得到關中的地方就足夠了，絕不會有進一步冒犯的可能，不過其他封王都想得到全部的江山，應該先把他們解決掉。
項羽果然不再防範劉邦，全心全力去攻打齊國，等到楚軍和齊軍交戰的時候，劉邦就開動軍隊朝東邊挺進，借義帝的名義拉攏各處諸侯討伐西楚霸王。
漢二年（公元前205年）四月，劉邦率軍攻打楚都彭城，此時彭城防守鬆懈，軍隊都被項羽帶去鎮壓齊王田榮，劉邦趁機在洛陽召集了幾十萬人馬，分為幾隊朝彭城進軍。
留守在彭城的楚軍將領龍且和項佗出兵抵抗漢軍入侵，遇到從西邊包抄而來的漢軍將領曹參、灌嬰和周勃，三人很快從圍津（今山東東明）橫渡黃河，並在定陶打敗了龍且和項佗，然後佔領了胡陵（今山東魚台東南）；另一路從葉縣（今河南葉縣西南）到陽夏，從南邊包圍彭城；最後一路則由劉邦親自帶領，夏侯嬰等將領和諸侯王的軍隊都在這一隊中，他們攻佔彭城東南方的外黃（今河南蘭考東南），然後向東挺進。半路上遇到彭越帶著三萬人馬前來歸順，劉邦很是高興，封彭越為魏相，派遣他去攻打梁地（今河南東北部）。這之後沒多久，劉邦輕而易舉地進入了彭城。
正在齊國打仗的項羽聽到自己的都城被劉邦佔領後，氣得暴跳如雷，奈何軍隊都投入到和齊國的戰爭中，項羽決定賭一把。他領著三萬精銳士兵日夜兼程，先是攻佔了蕭縣，讓劉邦軍隊無路可逃，然後趁劉邦在彭城內大肆歡慶的時候發起進攻，項羽以一敵百，戰士們大受鼓舞，早上開始交鋒，中午時分就已經把漢軍打得連連敗退，劉邦率眾人躲在谷水和泅水（今江蘇徐州西）周圍，驚慌失措的漢軍你推我擠，早已沒了紀律，楚軍沒費多少力氣就誅殺了10多萬。剩下的漢軍繼續朝西南方向逃跑，楚軍又在靈璧把漢軍團團包圍，逼迫十幾萬漢軍跳進睢水裡。項羽以為這次一定能抓住劉邦，沒想到天空中突然刮起一陣夾雜著沙石的大風，吹得人睜不開眼睛，打在身上生疼，劉邦一看老天都在幫助自己，便撇下大軍，只帶幾名騎兵倉皇逃跑。彭城一戰，劉邦損失慘重，原本答應和劉邦結為同盟的諸侯王被項羽的氣勢嚇得不輕，全部倒戈投靠楚軍。
漢二年六月，韓信打敗了前來剿滅漢軍餘部的楚軍，然後劉邦再次招募士兵，在滎陽休養生息，繼續和項羽抗衡。章邯一直在和劉邦交戰，到了七月，他終於堅持不住被劉邦擊敗，最終自殺了。
劉邦又派人勸說英布離開項羽，彭越還不時在楚軍周圍來點小動靜，項羽此刻已是頭疼不已。北方的魏國也被韓信攻佔，魏王豹被俘虜，代國和趙國也相繼滅亡。
不久，項羽開始反擊，楚軍把滎陽圍了個水洩不通。這下劉邦急了，不知道該怎麼逃出去，正好身邊的一個謀士給他獻了條計策，這個謀士叫陳平，也是從楚國跑來的。他對劉邦說，項羽身邊的范增是他最得力的幫手，只要使計讓項羽不再信任范增，楚軍必將不堪一擊。於是劉邦開始散播消息，說范增和漢國私下裡有來往，項羽又一次中計，范增又氣又惱，便稱自己年紀大了準備回老家，匆匆離開項羽，卻不料半路病發，沒到家就死了。
范增的離開削弱了楚軍的實力，劉邦假派別人去投降也沒有讓項羽起疑，趁這個機會，劉邦終於從團團包圍中逃出滎陽。出逃之後，劉邦和韓信聯合起來攻佔了成皋，又逼得楚軍主力離開滎陽去保護正被彭越入侵的下邳。
公元前204年七月，滎陽和成皋再次被項羽佔領。
公元前204年十一月，劉邦招募大批新軍，和彭越一同攻打雎陽（今河南商丘南），項羽不得不調動軍隊前去戰鬥，成皋又一次落入劉邦手中，守城將軍曹咎被漢軍殺死。
項羽在雎陽打敗了彭越，但軍隊損失不小，他顧不得給士兵補給裝備，馬不停蹄趕到廣武（今河南滎陽北）駐軍，和漢軍相對而立。不巧的是，韓信和灌嬰已經把項羽的後路堵死了，楚軍的糧食已經不多，士兵的戰服也十分緊缺，在這絕望的情勢之下，項羽只好接受和劉邦講和，雙方各佔一半江山，以鴻溝為界限，西邊是漢國，東邊是楚國。
公元前203年，項羽撤軍。劉邦見楚軍離開之後，也打算回到關中，張良和陳平卻不這麼想，他們認為楚軍撤退正是漢軍發起進攻的好時機，眼看楚軍勢力大減，人心盡失，不如乘勝追擊，滅掉楚國，從此天下就是漢國的了。項羽萬萬想不到劉邦竟然撕毀條約，乘人之危，楚軍一邊抵抗一邊退居到垓下。劉邦則集結了韓信、彭越等諸多將領率七十萬人馬來圍攻項羽。
楚軍一連作戰好幾次，士兵都疲憊不堪，人數也僅剩下十萬，在漢軍密不透風的包圍下，項羽率領的騎兵隊和後面的步兵隊被分隔開來。漢軍先是假裝逃跑，吸引項羽和騎兵隊追擊，然後從左右兩邊夾擊步兵隊。這一仗，楚軍共損失四萬人馬，被漢軍俘虜了兩萬人馬，跟隨在項羽身邊的士兵只有不到兩萬人，項羽無奈只有再次退到垓下休整。晚上，項羽在營中飲酒，虞姬陪在一旁，忽聞帳外傳來楚人的歌聲，四面八方皆是，項羽驚訝極了，認為自己沒了後路，他淒涼地唱著：
力拔山兮氣蓋世，
時不利兮騅不逝。
騅不逝兮可奈何，
虞兮虞兮奈若何。
這便是聞名後世的《垓下歌》。虞姬自知項羽如今只有拚死一搏，殺出重圍，自己在他身邊始終是個累贅，於是在項羽唱完之後，虞姬悲傷地和他告別，然後拔劍自刎。虞姬死後，項羽便率領八百精兵突出重圍——這正是劉邦的計謀，用歌聲逼迫項羽殺出來。項羽一路上斬殺了不少漢軍將領和士兵，但韓信、周勃、樊噲等人一直在後面窮追不捨，項羽幾經曲折，終於跑到烏江邊上。八百士兵只剩下二十六名。江邊有一條船，烏江的亭長對項羽說：“江東雖小，也可讓大王休養生息，請大王即刻隨我過江。”
項羽仰天大笑，對亭長說：“想當年我帶領幾千江東子弟渡河打天下，如今只剩我一個人回去，就算江東父老不怪罪我，我也愧對他們。”說完，漢軍已經追了上來，項羽和士兵們奮死抵抗，個個殺紅了眼。二十六名士兵全部戰死，項羽也傷痕纍纍，最後提劍自殺。
公元前202年，劉邦在伐楚勝利後封韓信為楚王，封彭越為越王。眾人恭請劉邦稱帝，一統江山，劉邦先是推辭一番，部下便以天下安危和百姓幸福為由，請他不要再推辭，劉邦這才答應下來。
公元前202年二月，劉邦在定陶宣佈即位，建立漢朝。