至正二十三年(1363年)四月，陳友諒親率六十萬大軍，自武昌沿長江東下，入贛江包圍洪都，以報前仇。七月，朱元璋自率水師二十萬，與陳友諒在鄱陽湖展開決戰。兩軍相遇康郎山。陳友諒遣驍將張定邊正在圍攻朱元璋，忽然被一支箭射中額頭，射箭的不是別人，正是大將常遇春。常遇春和俞通海及時趕來，幫朱元璋解圍。張定邊身負重傷不得不撤退。這時，江水忽然漲潮，把朱元璋的船托得老高，幫他殺出重圍。雙方一場激戰，不知不覺已到日落時分，朱元璋鳴金收兵，並和徐達一同商議。朱元璋說：「我當初讓劉伯溫守金陵是為了防止張士誠偷襲，眼下強敵未退，你快些趕回去替他守城，讓他過來和我一起商議軍機！」
劉伯溫正在路上時，陳友諒又前來挑釁。朱元璋只好派兵迎敵，可不知怎麼的，派出去的部隊大多戰敗而歸。正當朱元璋惱羞成怒時，郭興進言說：「敵艦高大，我們的小船肯定不是對手，目前只有使用火攻！」可朱元璋說，前些時候用的火攻也沒見什麼成效。這時，劉伯溫剛好乘船抵達，他向朱元璋舉薦了兩個人：一個是鐵冠道人張景和，曾經預言過朱元璋必將大有作為;一個是僧侶周顛，博學多才，卓識遠見，是劉伯溫的良師益友。朱元璋盼來了軍師又添兩位高人，禁不住心花怒放，立即向劉伯溫請教對策。劉伯溫吩咐朱元璋暫且退兵，然後使用火攻。朱元璋說：「不少人都提議用火攻，但是陳友諒的船那麼多，風勢又不穩定，怎麼燒得完呢？」這時鐵冠道人張景和忽然大笑起來：「你是天子下凡，有神靈護佑，還擔心沒有大風相助麼？」朱元璋追問何時有風，周顛忽然插話說：「今天黃昏就有東北風。」朱元璋覺得兩位高人神機妙算，便又追問陳友諒的下場和自己的前景，周顛說：「陳友諒無緣皇帝的寶座，而你固然有災星臨頭，但定有貴人相助，不必多慮。」聽聞此話，朱元璋心中有了底氣，於是吩咐劉伯溫跟隨自己前去破敵。
到了傍晚，江面上忽然刮起一陣大風。陳友諒正率領士兵巡邏，忽然遠遠望見江中駛來七艘小船，滿載著士兵，於是連忙下令弓箭手射擊。可這些士兵彷彿不怕利箭，依然屹立不倒。陳友諒急忙派人登船前去殺敵，走近一看，才發現船上坐的只是一群稻草人。此時，潛藏在船下的勇士，突然點著了船裡的硫磺和火藥。風助火勢，陳友諒的大船紛紛起火，此時，常遇春也帶兵殺來，急得陳友諒不知所措。濃煙滾滾，四處瀰漫，再怎麼勇猛的將士，也敵不過煙霧帶來的窒息，陳友諒的弟弟陳友仁和陳友貴先後死於大火。眼看大勢已去，陳友諒只好狼狽而逃。
陳友諒逃了一陣，越想越氣，決定第二天捲土重來，他發現朱元璋所乘的船桅桿是白色的，於是吩咐手下只要看見白色桅桿的船就發起攻擊。可第二天陳友諒趕到前線一看，發現所有敵船的桅桿都是白色，情急之下，陳友諒下令軍隊全力猛攻。此時，朱元璋鎮定自如地在船上指揮戰鬥，突然劉伯溫讓朱元璋趕緊換船。朱元璋剛登上另一艘船，只聽身後一聲巨響，原來的船就被炮彈擊得粉碎，瞬間沉沒。劉伯溫高興地說：「災星已經過了，主公盡請放心！」陳友諒聽到巨響，以為朱元璋被炮轟死了，便下令退兵。
朱元璋哪裡肯讓陳友諒大搖大擺地撤退，他命令廖永忠和俞通海駕駛六隻小船，悄悄地靠近了陳友諒的戰船。小船裡的將士飛速地登上了大船，頓時殺聲震天，濃煙四起。一面是敵人突襲，一面是大火包圍，陳友諒的士兵大多死於非命。陳友諒自知大勢已去，於是在張定邊的協助下再次逃走。朱元璋追到了罌子口，見水面狹窄，不便深入，所以決定暫時撤軍。此後，朱元璋給陳友諒寫了一封信，藉機羞辱陳友諒閉門不出，膽小如鼠。
恰好此時，陳友諒的兩位將軍前來投降，可見陳友諒已經是眾叛親離。當朱元璋得知陳友諒不遵守交戰規則，任意屠殺俘虜時，頓時變得異常氣憤，可他很快就控制住了情緒，再次提筆給陳友諒寫信，信中說：天下英雄，就數你我二人，可你為何度量如此狹小，要濫殺我的將士？你的領地已被我佔領，就算你僥倖逃脫，也不是長久之計，你好好考慮吧，否則後果自負。
陳友諒看過信件，置之不理，依然往洪都運送糧草，可偏偏又被朱文正半路截獲，陷入了進退兩難的境地。過了幾天，陳友諒再次集結殘兵敗將與朱元璋一決雌雄，可他既不得天時也不得地利，只剩大敗一條路可走。陳友諒兵敗如山倒，最後只有帶著張定邊一人出逃。朱元璋追了好一陣，忽然遇上了在江面上划船高歌的鐵冠道人張景和，朱元璋趕緊詢問：「張道人！你怎麼還有閒心在這裡消遣啊？」張景和說：「陳友諒都死了，我為什麼不能消遣？」朱元璋不信，張景和大笑起來：「你是皇帝，我是道士，我和你打賭，拿腦袋做賭注如何？」正當此時，忽然有人前來報信，說陳友諒被箭射穿了腦袋死於江中，這果然應驗了張景和的預言。這是至正二十三年八月的事。這月，朱元璋改洪都府為南昌府。
朱元璋追剿陳友諒的殘部，抓獲了他的妃子闍氏和長子陳善。第二天，陳榮帶領五萬人前來投降，再次證實了陳友諒戰死的消息，他的屍首則被張定邊和小兒子陳理帶到武昌去了。陳友諒稱帝才四年，死的時候不過四十四歲，可謂是心比天高，命比紙薄。
朱元璋高奏凱歌，榮歸應天府，他封賞了有功的將士，大擺宴席，金陵城內頓時歌舞昇平。此後，朱元璋覺得闍氏雖然是陳友諒的妃子，但她畢竟有幾分可憐，於是納她為妾。
大軍修養了幾個月，朱元璋派常遇春帶兵圍攻武昌。第二年，即至正二十四年(1364年)一月一日，朱元璋在應天府自稱吳王，封李善長為右相國，徐達為左相國，劉伯溫為太史令，常遇春和俞通海做了平章政事。又過了幾個月，朱元璋還沒有聽到攻下武昌的喜訊，便決定親自前往