本來小明王封郭天敘為都元帥，張天祐為右都副元帥，朱元璋只是一個左都元帥。而郭天敘和張天祐戰死後，朱元璋名正言順地成了都元帥，當然朱元璋並不在乎都元帥的位置，他的目標還未實現——攻下集慶。
時間很快到了元至正十六年（1356年）的春天，朱元璋一直在謀劃攻取集慶一事。這對朱元璋來說，是他在江南發展基業只可勝不可敗之舉，所以朱元璋慎重再慎重，謀劃再謀劃。
早在攻下太平的時候，李善長就建議，攻集慶切不可硬打。郭天敘的慘敗說明集慶的守衛力量非常強大，畢竟那是江南重地，城池堅固，駐有許多精銳元兵，是很多人覬覦已久的地方。如果久攻不下，就會一敗塗地。
而馮國用則建議，先在太平發展勢力，讓兵士們熟悉這一帶的環境，慢慢攻下集慶周圍的城鎮，孤立集慶，再重兵出擊。
朱元璋也就不緊不慢地在太平發展起來，雖然這幾個月以來，陸續佔領了集慶附近的溧水、溧陽、蕪湖等一些城池，集慶漸漸處於孤立狀態，但朱元璋還是不敢輕舉妄動。因為和州與太平的交通只有靠水路可行，但水路多被元軍切斷，消息難以通暢，和大後方的信息不通，軍心難定。
於是馮國勝建議說：“當務之急，一是穩軍心，二是趕走元水軍，為攻集慶開路。而趕走元水軍是穩定軍心的前提，現在只有先對付元水軍，使人心穩定，水路暢通，攻集慶也就有了基礎。”
這是二月間，農曆年的氣息並不久遠。朱元璋覺察到軍隊駐紮在太平，跟後方信息難通，將士們思家心切，情緒有些低落，而水路不通，攻集慶的路途又少了一條。於是派常遇春、鄧愈幾名年輕將領帶幾千精兵前去決戰元水師，同時告訴士兵這次不是去打仗，而是清掃聯通家鄉的信息之路。兵士一聽是掃除聯絡中的障礙，都非常興奮。而之所以派這幾個年輕人，是因為朱元璋想給對方一個誤導，讓對方以為這些年輕人沒作戰經驗，有了輕敵的心理，再讓他們一顯身手，猛攻強打。
元水兵將領見來了幾個年輕小伙，心中大笑，並未放在心上。不料，這幾個人個個驍勇善戰，常遇春百發百中的長槍、鄧癒的準箭，以及高昂的士氣，使得元水軍很快潰敗。常遇春他們轟走水兵，俘獲了所有的船隻舟艦，兩岸的交通完全通暢了，能收到後方傳來的家書，軍心也安定了。同時，這次水戰讓朱元璋獲得很多軍船，他的水軍力量增強。這可以算是攻集慶的前奏。
朱元璋和文武將士們商討了幾天幾夜，決定以最強的軍隊陣容，親率水陸大軍並進，全力進攻集慶。朱元璋以為集慶附近的小城都被攻占了，兵士們可以從四面圍攻，且四方都可以不斷派出援兵。朱元璋部署好各方事宜，又擔心萬一消息走漏，對自己不利，決定推遲原計劃兩日再行動。
本來是定於二月最後一天發兵，現在就變成三月初二開始行動。
但這中間的兩日，朱元璋並未閒著，他把目標放在集慶附近的方山上。方山駐守著陳野的侄子陈兆先，而陳野是個不講信用、見風使舵之人，忽而投向起義軍，忽而投向元軍，前不久被民兵所殺。他的侄子陈兆先收歸了他的舊部，被元軍用來防守集慶。朱元璋不知道陈兆先是怎樣一個人，他決定攻集慶前，先打方山，把這個防護破了，為軍隊開路。
朱元璋這次讓胡大海主動出擊方山，陈兆先也是勇猛之人，不似他叔叔懦弱勢利，毫不畏懼，親自迎戰胡大海。陈兆先迎到山下，胡大海則邊打邊退，故意把陈兆先誘出方山，兩人正在交戰，打得非常精彩激烈，不想胡大海用了個偏擊，又突然轉馬，陈兆先一個不防備，跌下馬來，還未等陈兆先反應過來，胡大海已經和兩個士兵將他捉住。此時，馮國勝朝山上高喊陈兆先已經被捉，要山上的士兵下來投降。
朱元璋和李善長左勸右說，終於使陈兆先投降。這一次不僅打下方山，還得兵兩三萬人。
到了三月初二這一天，趁著首攻的勝利氣勢，朱元璋向集慶發起總攻。這一次朱元璋太過認真對待，用了所有的將士，所有的精兵，士氣高漲，將士勇猛直前，一路殺來，從四面直抵集慶城下。
守城的元主將是御史大夫福壽，他誓死守城，多次反擊，都被朱元璋的前鋒常遇春、胡大海、花雲擊退。而守城的元兵，見攻城的將領如此兇猛驍勇，尤其是常遇春目標準，殺人不眨眼，元兵們都嚇得不敢反擊，爭相逃竄。福壽見已無抵抗之力，且自己身受重傷，用劍自刎。不到幾個時辰，朱元璋的各路人馬都衝到了集慶城中，集慶被攻破。
集慶剛被攻下，附近的水寨元帥康茂才就來歸降，康茂才的歸降為朱元璋帶來五十萬軍民，朱元璋的勢力陡然倍增。
入城後，朱元璋想起“高築牆、廣積糧、緩稱王”的訓誡，效仿漢高祖劉邦，為安撫城中百姓，朱元璋首先召集了城中的官吏和軍民，宣告說：“元朝政府已經腐朽至極，政治腐敗，民不聊生，如今天下大亂，四處起兵反元，都是因為元朝政府本身的腐敗。而多年的征戰，老百姓深受其苦，你們困處在危城之中，不能安居樂業。我率兵來此，是要為你們除亂除害，請不要疑慮恐懼，各守其職，賢人君子當以禮任用。官兵和官吏們不可橫暴，禍害百姓。舊有製度危害百姓的，當即可革除更改。以圖百姓安居樂業，城池繁榮。”這些肺腑之言，讓城中百姓安下心來，城中的秩序不再混亂，很快恢復正常。朱元璋又讓李善長寫出安民和招募賢才的告示，四處散貼在城中。
這一夜，朱元璋是怎樣的興奮和激動。他想起還守在和州的妻子馬秀英，想起自己戎馬生涯，常年漂泊在征途中，少有安定，有些心酸，他此時多麼渴望看到久別的妻子，還有尚未謀面的兒子。他朝著和州的方向，喃喃道：“集慶，這是一塊寶地，也是咱朱元璋的定居處了。”
隔日一早，朱元璋和徐達急著巡城，先到集慶府，不料見到正在忙著指揮的李善長。見李善長忙得不亦樂乎，朱元璋有些納悶，忙問他在指揮兵士們運什麼，李善長笑道：“都是寶物，無價之寶。”
朱元璋更加納悶，走近一看，原來是些賬冊、稅錄、戶籍等官冊。李善長見朱元璋還未明白，就說：“這些冊錄都是江南各地的情報啊。”
朱元璋頓然大悟，哈哈大笑道：“先生說的是啊，這些都是寶物，是咱對付東南地區的無價之寶，也是咱治理集慶的無價之寶。”
巡城一周，朱元璋覺得集慶真是闊達雄偉，城內物資充足，心中大喜。
傍晚時分，朱元璋決定召開全軍大會，在會上先表揚了常遇春、胡大海等有功之人，接著又對常遇春施行了處罰，原因是常遇春進城後濫殺軍民。這個常遇春是個驍勇之將，但有一點不好，就是喜歡在戰爭中毫無顧忌地殺戮，朱元璋已經屢次嚴加管束，他雖有收斂，但不能做到手下留情。處罰常遇春，朱元璋是為了給兵士將領們一個警告，警告他們功是功，過是過，有功論賞，有過嚴罰，以正軍氣。
在這個集會上，朱元璋還宣布了一件讓將士們歡欣鼓舞的事情，那就是他們佔下集慶後，不回和州了。朱元璋歷數了江南的富庶和發展前景，到最後才說要盡快接來留守在和州的婦孺家眷，一時間將士們的心情沸騰起來。
朱元璋把集慶路改為應天府，設置大元帥府，自任大元帥。之所以設置為應天府，是在朱元璋看來，他從一個一無所有的貧民，能得到今天的輝煌，全是順應了天意，上天庇護，所以取名為應天。
這裡是朱元璋霸業的開始，他重新調整在江南地區收歸的軍隊和文武將才，論功行賞，重新分配職務。小明王得到朱元璋攻下集慶的捷報，升任朱元璋為大元帥，行中書省平章，其他各大將領皆升為元帥。朱元璋這個時候雖然不把小明王放在心上，但他牢記那九字，以為自己稱王的時機未到，天下並不太平。
得到虎踞龍盤之地集慶，對朱元璋來說是他霸業的開始，但得到集慶還得守住集慶，因為他的周圍都是強敵。東南邊是最富有的勢力張士誠，東邊是元將定定扼守鎮江，西南面是兵力雄厚的徐壽輝，南面和零散處都是元兵把守……朱元璋在此算是新來的勢力，必受到關注和排擠，且被圍在中間，軍事形勢並不利。
年僅二十八歲的朱元璋得到集慶，睡得卻不踏實，要守住集慶，在江南穩住腳跟，夾處群雄之間，他必須再接再厲，殺出一片天地來。為此，朱元璋開始新的征戰，他的目標是先在江南穩住腳跟，再各方出擊，圖謀江南。