陳友諒在太平被朱元璋打敗後，心中大怒，他決意先做調整，再次出兵，這一次陳友諒派兵一舉攻下安慶，時間是元至正二十一年（1361年）的七月，朱元璋剛被小明王封為“吳國公”不久。
安慶對朱元璋來說具有重要的戰略意義，陳友諒攻安慶是明顯的挑戰。朱元璋看著安慶失守，心中的憤怒不會比陳友諒敗走太平少，憤怒的朱元璋立即召集文武將士，商討對策。
朱元璋說：“陳友諒的野心並未因太平一戰而消失，反而愈加猖狂了，如今安慶已經失守，陳友諒的下一個目標就是應天啊。”
猛將常遇春道：“陳友諒欺人太甚，不斷惹起事端，末將以為上次趁他敗走的時候，就應攻下他的老巢。”
而李善長以為，陳友諒不是容易對付的人，和他的戰爭才剛剛開始，要作長久的打算。
商討很久，朱元璋決定不可再忍耐，也不可再小打小鬧了。這次必須全力出擊，溯江西伐，和陳友諒一決雌雄。而此時，陳友諒其實早就有決戰朱元璋的野心，所以朱元璋和陳友諒的這一戰可謂是陣容強大，對雙方的發展來說都是決定生死存亡的關鍵時刻。
既然決定溯江西伐，朱元璋就得造些聲勢。他知道陳友諒殺了倪文俊，又殺了徐壽輝，引起很多人的不滿，同時徐壽輝的部下對他更是反感。朱元璋就造了一艘巨大的船隻，在船上豎了一面大旗，旗上寫著“吊民伐罪，納順招降”八個大字，老遠就能看到。陳友諒得知這一信息後，心中更為憤怒，認為朱元璋為人太猖狂，有何德何能可以“伐罪”自己，決心與朱元璋鬥個你輸我贏。
朱元璋此次出擊的第一個目標是先將失守的安慶收復。因為朱元璋得到情報說，陳友諒對自己的舉動異常不滿，已經舉兵東下，安慶守兵較弱，朱元璋不費力氣收復了安慶。而收復安慶如此順利，還有另外一個原因，就是朱元璋拉攏了對陳友諒不滿的一員大將張志雄。這個人本是天完國核心人物趙普勝的心腹，而趙普勝已經被朱元璋用離間計陷害，不知情的人都以為是陳友諒殺害了趙普勝。其實，應該說陳友諒殺趙普勝是早晚之事，但朱元璋從中起了推動作用，卻又不為人知。所以，張志雄就對陳友諒非常不滿，這一點朱元璋當然心知肚明，所以在兩兵相較的時候，就用了些攻心術，把張志雄拉攏過來了。
安慶收歸以後，朱元璋派胡大海力克信州（今江西上饒），同時朱元璋親自統兵，一舉攻下江州。其間，陳友諒的守將丁普朗、傅友德全軍歸降朱元璋。陳友諒稱帝的時候遷都江州，江州被攻下，陳友諒只能兵敗逃走，到了武昌。而朱元璋又下令乘勝出擊江西和湖北，南康、蘄州、黃州（今湖北黃岡）、黃梅、廣濟、興國等地守軍皆投降朱元璋，各城相繼歸順。這樣，朱元璋的領土在江西和湖北不斷擴大，而陳友諒連連失利，曾經的強大在和朱元璋的鬥爭中日益縮小。
然而當朱元璋和陳友諒正在血拼的時候，江北的軍事形勢發生了巨大的變化，這一變化對朱元璋非常不利。北方的小明王和劉福通在和元兵作戰的過程中接連失利，而元朝大將察罕帖木兒已經平定了山東各地，小明王退守安豐，很多紅巾軍的將領都已經被招降，眼看安豐危急。張士誠也向小明王和劉福通發動了進攻，為什麼張士誠不趁朱元璋進攻陳友諒的時候進攻應天，反而向小明王出兵呢？原來張士誠和元朝也是關係曖昧，畢竟和朱元璋有協定，所以就應元朝之邀，出兵進攻小明王。
朱元璋正在和陳友諒決戰，收到小明王求救的信息。
頓時，朱元璋和他的文武將士都陷入了沉思和憂慮之中。
救還是不救？
在這關鍵時刻，眼看陳友諒就要被打敗，若此時分兵北上，勢必給陳友諒一個絕好的反擊機會。
但朱元璋有他的打算，他認為這些年能在江南發展，是因為小明王在北方和元兵作戰，給自己一個天然保護，但若此時安豐失守，自己就成為元朝的直接攻擊對象，且無論如何自己現在還打著小明王的旗號，所以朱元璋主張救小明王。
朱元璋的主張，向來反駁者較少。
而這時劉伯溫卻極力勸阻，他懇切陳詞道：“如今大兵不能輕易向北出動啊，萬一此時陳友諒乘虛反攻，且不說剛剛拉起的有利戰線毀於一旦，就連退路都被切斷了。再說，就是主公救下小明王，如何處置他呢？他對紅巾軍，對主公如今又有何作用呢？一直以來小明王也不過是劉福通的傀儡，這一點大家都清楚。”
劉伯溫的反對意見不能不讓朱元璋三思，但思慮之後，朱元璋認為陳友諒現在敗退武昌，反擊應不會太嚴重，且安豐失守，應天就沒了天然屏障，一心要出兵安豐。
劉伯溫再三勸阻，也無法改變朱元璋的意見，這就是朱元璋的霸氣和頑固所在吧。
朱元璋親自統兵援救安豐。但是朱元璋和他的大軍還未到達安豐，劉福通已經被殺，朱元璋率兵力戰，終於擊敗了張士誠和元軍所派軍隊。劉福通的死對朱元璋來說是件好事，所以他很爽快地救下小明王，把小明王安置到滁州，還在滁州為他造了一座華美的宮殿，而宮殿中的侍宦都是朱元璋手下的兵士。明白人都知道，這是朱元璋把小明王關押在此了，表面上還贏得了尊奉君主的美譽。
安豐是保住了，小明王也救出來了，更嚴重的問題就是劉伯溫所預料的情形：朱元璋出兵援救安豐的時候，陳友諒乘虛反攻，以重兵把洪都重重包圍起來，還佔領了吉安、臨江、無為州。
這次圍攻洪都，陳友諒算是傾其所有了。他製造了上百艘在當時看來碩大的戰船，這些船隻上下三層，高有數丈，每一層的容量大到都設有走馬棚，下面還有板房，光櫓就有幾十支，都用紅色的漆漆上。大的船隻都能容納三千人，就是小的也能容納兩千人。看著這一批氣勢恢弘的戰船，陳友諒心中十分得意，自以為勝券在握，發動六十萬大軍前來圍攻洪都。
而朱元璋在洪都的守將是年輕的朱文正，朱文正在眾將的眼中不過是喜歡吃喝玩樂的公子哥，毫無大戰經驗。朱元璋得知信息後著實捏了一把汗，所有的人也都擔心起洪都的安危來，洪都若失守，那下一個大戰的地方就是應天。
李善長對朱元璋說：“陳友諒造瞭如此大的聲勢，六十萬人，就是如今派援兵，援兵也難以破圍啊，最大的希望就是朱文正。若朱文正能守住洪都，那是最好的解決方式。”
朱元璋心中卻在暗自苦笑，雖然他從未看低過這個侄子，但就是自己也從未在如此危急的情況下，面對如此強大的重兵。
而朱元璋就是朱元璋，在這危急的時刻，他依然鎮定自若，派人通過秘密渠道通知朱文正誓死也要守住洪都，並在密信中點撥朱文正此時不能力勝只能智勝，是將平時的兵法理論用到現實中的時候。朱文正這個年輕氣盛的守將，不愧是朱元璋的親侄子，大敵當前，鎮定自若，顯示出他的軍事能力。儘管城中可以調遣的軍士不足，朱文正還是調配得當，而城中寥寥數將都是非常有經驗的老將，朱文正就因人施用，用盡方法防禦出擊。
洪都一戰，一直打了八十五天，城牆都不知道被攻破了多少次，陳友諒的兵士也不知從缺口處湧進城中多少次，而年輕的朱文正硬是用他堅強和出色的軍事才能，且戰且守，在激烈的戰鬥中守住了洪都。其實在洪都戰役打到第五十天的時候，朱元璋已經非常樂觀，他看到朱文正能堅持這麼久，懸著的心就放下了，也更加相信這一戰必勝無疑。到了這年的七月，眼看兩方軍隊都已疲憊不堪，朱元璋認為是派兵相援助的時候了，就親自統領二十萬大軍前來洪都援救。
陳友諒見朱元璋來援助朱文正，經過這八十多天的激戰，他的將士們已經心力交瘁，就掉過頭來向鄱陽湖地區撤退。
朱元璋正打得興酣，當然不會放過陳友諒。在朱元璋看來，決戰陳友諒的最佳時機到了，而鄱陽湖就是這次決戰的戰場。
雖然陳友諒在洪都失利，但他的水軍無論在形式上還是實力上都顯然強過朱元璋。但朱元璋的優越的軍事分析才能就是辯證地分析問題，他認為自己的弱勢也是自己的優點，這個優點會在恰當的時候給陳友諒致命的打擊。
決戰開始前，朱元璋就開始緊密地部署。他派出幾千伏兵，封鎖了鄱陽湖到長江的出口，這樣陳友諒就沒了歸路，也無出路，只能在水中作戰。而自負的陳友諒不以為然，他看著朱元璋的小船弱兵，再望望自己高大威嚴的戰艦由鐵索連成水中陸地，不怕風浪，心中竊喜。
朱元璋聰明的地方是他注重人，他知道人是戰爭的關鍵，武器是輔助的工具，而陳友諒恰相反，太過於依賴武器。本來陳友諒的兵士在洪都苦戰三月，已經疲憊不堪，而洪都久圍不下，士氣低落。而朱元璋帶領的援兵士氣正高，且朱元璋又時時不忘鼓舞將士：“朱文正以如此弱小的兵力，可以守城三月，拒六十萬大兵於城外，咱們二十萬兵士，難道還打不過陳友諒的殘兵敗將？咱不怕他的船高人多，咱要的是勇氣和策略。”說到策略，朱元璋跟將士們分析道：“陳友諒的巨艦有巨艦的優勢，但他的船隻鐵索相連，雖不怕風浪，但行動不便啊，不夠靈活，進退難行。火燒赤壁大家都知道吧，說不定啊，咱就再上演一次。”說得將士們都開心地笑起來，對戰爭毫無恐懼，反而對決戰陳友諒充滿了信心。
朱元璋抓住陳友諒過於依賴戰艦的弱點，制定了詳細的作戰計劃，而他的主要戰術則是火攻，準備待以時機，用火砲、火銃、火箭、火槍、鐵炮等大量火器攻擊陳友諒的大船。朱元璋的水軍人數雖少，但訓練有素，紀律嚴明，分為十隊，每隊都配備了充足的火器和火藥。同時，朱元璋又規定了清晰的指揮信號，白天是旗幟，夜晚是燈籠，遠方的鳴炮，近處的擊鼓，整個軍隊行動劃一。在數次互相攻擊中，雙方都死傷不少，朱元璋在幾次苦戰之後，獨自思忖，自古以來的水戰都得順天時佔地利，方能取勝。他不時想到諸葛亮借東風，火攻曹營的勝戰。問題是，如今，陳友諒處於上游，想要智勝沒那麼容易，火攻的方式不能改變。既然地利沒了，朱元璋更加註重人的因素，他深知天時不如地利，地利不如人和，同時也在等待最佳的時機，比如有利的風向。
這一天終於等到了，那是相持到第三十天的時候，朱元璋正在苦苦思索下一步作戰策略，忽見東北風起，朱元璋立即命令各軍備戰，火船先行順風而發。這幾艘火船並非一般的火船，而是朱元璋的敢死隊，敢死隊先藉著風勢衝進敵陣，以誓死同歸的勇氣向陳友諒的大船撞去，同時點燃數只隨行的船隻，這些船隻裝滿了火藥和蘆葦，一時間，熊熊烈火藉著風勢，越燒越烈，而陳友諒的船隻被鐵索連著，無法分開，頓時都惹火上身，無法熄滅逃走。朱元璋則藉著這個機會發起了總攻。只見密密的火箭、槍砲、火銃、火槍向陳友諒的船隻射來，而陳友諒的數條大船絲毫動彈不得，成為水中的火海。陳友諒也中箭身亡，這是元至正二十三年（1363年）的八月。
這一次規模巨大的水戰，兩兵相持苦戰三十六天，朱元璋以火攻大敗強大的陳友諒。朱元璋消滅了最有威脅的敵人，而決戰陳友諒的成功，也成為朱元璋建立帝業最關鍵的一步。