公元1363年陳友諒戰死，他的地盤和殘軍很快都被朱元璋收歸肅清。而這個時候北方的元軍正在進行內鬥，打得不可開交，富有的張士誠不久自立為吳王。面對這種情形，朱元璋覺得“緩稱王”的策略需要應對新的形勢有所改變，“吳國公”已經不能和眼下的政治形勢相對應了。
到底稱什麼呢？劉伯溫和李善長都認為，應天在歷史上是孫權的都城，孫權所擁有的正是吳國，雖然張士誠自稱為吳王，但是吳王這個稱號內涵豐富，要想統一天下建立國家，此時稱吳王最合適不過。所以朱元璋在元至正二十四年（1364年）的正月也稱了吳王，設置百官，建立中書省，一個農民的兒子終於轉變為王侯。此時的尷尬就是兩個吳王同時出現，為了區分，在人們的心目中，張士誠就成了東吳，朱元璋則為西吳。
一山難容二虎，兩個吳王接壤相連，爭鬥是必然之勢。而挑起爭端的又必然是有野心的那個。成為王的朱元璋心裡很清楚，要鞏固自己的霸業，不可仿效他人的享樂，他已經擁有應天這個虎踞龍盤之地，就必須守住這個據點，壯大這個據點。此時的朱元璋，雖然除掉了一個厲害人物陳友諒，初步控制了長江中游的勢力，但是他的野心是得天下，立大業，他怎能容得下附近的吳王。
當年為除陳友諒，朱元璋無暇東顧，對張士誠只能拉攏，甚至簽下君子協議。然而現在北方的元兵無暇南顧，江南又只剩下朱元璋和張士誠兩個可以抗衡的勢力，朱元璋認為這是除掉張士誠的最佳時機。雖然當年陳友諒邀請張士誠一起對付朱元璋，張士誠不願摻和事端，只願自顧，如今朱元璋卻顧不了那麼多的禮數，他要主動出擊，在江南開戰勢在必行。
戰爭總是你死我亡的殘酷，為確保勝利，朱元璋得穩定大本營，拉攏周邊地區，專心對付敵手。他派使者與四川的明玉珍通好，以穩定江漢局面，集中兵力和精力對付東南一隅的張士誠。
總要找點事由對付這個富庶的對手，朱元璋在尋找出兵的藉口。
元至正二十五年（1365年），一個深秋之夜，搖曳的燭光照著朱元璋緊鎖的眉頭，而他的雙眼是憂慮中的篤定，一個大的謀劃在他心中。朱元璋對諸位將士說：“近日張士誠的士兵總是在兩軍邊界鬧事，諸位有何看法？”
常遇春是一個狂傲之士，好戰善鬥：“直接打到蘇州去，滅掉張士誠。”
老將徐達也贊成常遇春的提議，他清楚朱元璋的心理，只不過找點藉口讓他們說出征戰之事。
其餘的人皆認為打張士誠迫在眉睫，不可不打。
朱元璋看到屬下已明曉他的意圖，眉頭舒展開來，半晌無語，言道：“此一戰看來難免，不可魯莽行事，商討之後再決定。”
隔日，朱元璋命劉伯溫寫一封招降書差人送去張士誠那裡，先激怒對方。
這邊，朱元璋與文臣劉伯溫，三帥徐達、湯和、常遇春正圍著茶案商討戰策。
常遇春想起那封招降書，不禁笑道：“這姓張的肯定氣急敗壞，讓他花天酒地佔據江南半壁的美夢早些破滅吧，看我們到時候怎樣殺進他的安樂窩，這老傢伙現在還沒料到夢不久矣呢。”
徐達爽聲應道：“以我之見，應盡快衝進蘇州，拿下蘇州，張士誠所屬的其他軍隊亦不攻自破，肯定歸順我軍。”
這時只見朱元璋端起茶杯，輕輕呷了一口，目光轉向一直無言的劉伯溫。
湯和搶先講話了：“先打蘇州為上策，然而若是張士誠的軍隊都趕來支援，我方必有損傷。”
朱元璋心裡並不是沒有盤算的，他知道張士誠佔領的區域為南北狹長地形，中間隔著長江，南北的兵力支援不便。但若是直接打去蘇州，並非易事。
幾經商討，朱元璋堅持己見，認為不可輕率地先攻打蘇州，應先擊其羽翼，從外圍入手，把張士誠的勢力截為兩段，使其南北阻隔，難以呼應，為進攻湖、杭兩州創造有利條件。
儘管徐達、常遇春對此決意有異議，但朱元璋此謀必勝的氣勢寫在眉宇之間，兩人亦無言再對。
不久，朱元璋命徐達、常遇春率一部分舟師水陸並進，渡過長江，進攻淮東。徐達和常遇春先行擊潰張士誠軍一部分，進抵海安，不久克海安後進圍泰州新城，敗張士誠援軍，擒其元帥王成。此時，張士誠為分散朱元璋的兵力，以四百艘舟師泊在長江北岸一個叫範蔡港的地方，同時部署諸多水兵在江蘇靖江北部水域，以誘惑徐達前來，再乘機反攻。朱元璋指揮若定，不為所惑，仍舊把主力放在海安、泰州地區，使張士誠計謀失敗，無機可乘。
數月後，朱元璋派部將又攻下張士誠的發家之地高郵。
元至正二十六年（1366年），徐達與常遇春會師淮安，克興化。五月，又攻下朱元璋的老家濠州。
為顯示自己與往日之不同，朱元璋親至濠州，省陵墓，宴父老，真是與當年不可同日而語。
更大的勝利就在眼前。朱元璋採取集中兵力，先除去張士誠羽翼的戰略，把其勢力分為兩段，南北阻隔，無法呼應，為日後的進攻打下了堅實的基礎。
形勢一片大好，朱元璋也不諱言即將到手的更廣大的土地。
但是文臣李善長卻不樂觀，他以為：“張士誠看似屢戰屢敗，實則兵力未衰，且其富庶一時，為人樂善好施，周遭百姓多有擁戴，恐一時難攻下其老巢。”
武將徐達畢竟為打仗之人，進言道：“天將亡他，其部將多為享樂暴奢之人，且近日連連敗退，中用之人亦不多。臣以為當率精銳部隊，乘勝再擊，張士誠已無反擊之力，亦無處可逃。”
朱元璋當機立斷，即刻決定出兵，不容軍內有對戰事異議者。他深知，如若耽擱下來，士氣將降，且遲遲不攻張士誠老巢，難免軍內有不服者叛變。
八月，朱元璋命徐達為大將軍，常遇春為副將軍，率二十万精兵，以集中主力消滅張士誠。此時，朱元璋已料到張士誠必對蘇州重兵把守，需要調其兵將離山。他毫不遲疑地命令正準備直擊蘇州的二將不要急於取蘇州，先直擊湖州，使張士誠的軍隊不得不從蘇州分散至湖州，待其軍士勞累奔波疲憊之時，移重兵直至蘇州，必勝無疑。
徐達、常遇春二人也不得不佩服朱元璋的計謀和戰略。
此時，李善長不由得對劉伯溫言道：“其人有君主之威，將來之事可見端倪。”
劉伯溫笑而無語，他知道朱元璋有更大的企圖。
這一仗打了數月，蘇州成為孤城，南、西、北三面被朱元璋的軍隊圍困。
直到吳元年（1367年），圍城三月依然未能攻下，軍士已有焦躁不安之心。常遇春向來是殺戮成癮，建議道：“當立刻攻城，殺進城內，不必死守。”徐達不置可否，他一向最聽朱元璋的，如今將身在外，不敢輕舉妄動。
朱元璋對此泰然處之。他在派兵圍攻蘇州的同時，還做了另外一件重要的事情——派他的大將廖永忠去“迎”小明王韓林兒，並在途中命廖永忠結果其性命。朱元璋心裡是何等明了，戰時“迎”小明王，他必無疑心，趁此機把他做個了結，免得日後再生枝節。再說這邊，朱元璋見張士誠縮在城內動彈不得，心中早有勝數，只是不願攻城傷及城中百姓，將來難以平撫，即給徐達、常遇春只圍不攻的命令。
同時，朱元璋不斷讓文臣們寫勸降書送進城內，勸張士誠早日投降，然張士誠來了個拒不回信，亦不投降，死守城中。對此，朱元璋有的是耐心：就等你耗到糧絕之日。
至七月，張士誠城中已無糧草，他只得親自率軍突圍。張士誠的兵士打開城門準備出戰，即迎來常遇春這位勇猛之將。常遇春揮兵向前，他早已等得不耐煩，把張士誠的精兵殺得落花流水。張士誠驚嚇不已，從馬上墜落，被士兵救起匆匆逃回城中。
忍無可忍的張士誠恨透了朱元璋，休息十日後，咬緊牙關，親自率兵再次出擊。這次可不得了，張士誠和他的軍隊已無路可走，做好了視死如歸決一死戰的準備，表現得勇猛驚人，甚至驍勇的常遇春都險些招架不住。眼看張士誠有勝利的希望，城頭不知誰喊了一聲：“軍士如此辛苦，可以休息再戰！”瞬即鳴金收兵。張士誠及其士兵正驚訝不知如何之時，常遇春已經掉頭再擊，大敗張士誠。
原來，朱元璋早在城內安插了自己人。他知道張士誠的性格不易勸降，恐其來個誓死抵抗，這樣必傷及自己的士兵，他先下手為強，差劉伯溫找了機靈的士兵見機行事，以乾擾張士誠的軍心。
不久，徐達展開猛烈的攻勢，蘇州城陷。
輝煌一時的張士誠也只是英雄窮途末路了，這正是日暮時分，他和他的夫人劉氏，懷抱兩個幼子，準備以死了結。他無法忘記連日來的悲慘，更無法原諒自己當初沒有和陳友諒一起抵抗這個看著並不起眼的朱元璋。他只是想當自己的小帝王，和家人過著安穩的日子，守著身邊的百姓安居樂業，他厭倦了戰爭。然而，他沒意識到朱元璋的雄心，對朱元璋最初的“勸降”並未放在心上。落日的餘暉映著他和他的家人，以及慘敗不堪的城樓，他的心裡湧起百般滋味。
就在這回味往昔的時刻，他被徐達的將士找到，那曾經是他部將的人，如今相見兩相無語。
徐達押回張士誠，送給朱元璋處置。
朱元璋迎來披頭散發的張士誠，心中感慨，這也是昔日的英雄啊。同時，張士誠的淒慘樣，更激起了朱元璋平定天下為我所有的決心。他明白，人不可無志，只有足夠的強韌，徹底消滅了敵人，他朱元璋才能真正的安穩下來。
是夜，張士誠趁人熟睡之時，以被單上吊自盡。
張士誠這樣的性情之人，在亂世中難為大謀，用朱元璋的話說就是一個沒有“氣魄”的“小氣”之輩。消滅了最富有的鄰敵張士誠，朱元璋並沒有放下心中的憂慮，他還有更強大的對手，那就是元朝。他朱元璋不是張士誠，他看得更遠，也更有憂患意識，他的偉業已經揭開序幕，下一個謀劃在朱元璋心中展開：掃除餘下的起義軍勢力，再集中精力對付元朝。