朱元璋在和州發展得正好，孫德崖以藉糧之名前來干擾。郭子興聞訊也趕來，兩人在和州爭鬥起來，最后孫德崖離開和州，郭子興在和孫德崖的鬥氣中死去。
沒了郭子興，朱元璋知道郭天敘並不是自己的對手，他可以名正言順地獨立出來。然而，郭子興雖然死了，孫德崖心中還因在和州的不快而嫉恨朱元璋，想要整死朱元璋。思來想去，孫德崖也沒有什麼太好的計謀，就用了一招鴻門宴，以宴請朱元璋為由，誘使他進入濠州城，想在城內用計殺了他。朱元璋自然沒有不去的理由，然而孫德崖並不是朱元璋的對手，此計失敗，自己反而喪了性命。孫德崖死後，趙均用幾乎掌握了濠州城的軍權，不願再依附在濠州，帶領軍馬另立山頭，自封為永義王。
濠州這路紅巾軍，因各位元帥的分裂而軍心漸散。孫德崖他們幾部分的人馬被趙均用佔去，而郭子興所屬的人馬也面臨領導者更替的問題。按道理說，郭子興死後，他的軍權應由他的兒子郭天敘、郭天爵接管，問題在於有個能幹的女婿朱元璋。經過一系列事件和攻打滁州、和州，朱元璋在軍隊裡的聲望越來越高，臣服者越來越多，還收攏了很多文才武將，像李善長、馮國用、馮國勝、胡大海、常遇春等人。
在郭天敘兄弟這邊，當然不願軍權落入朱元璋手中。郭子興一死，兄弟倆立即安撫將士，採取各種措施，企圖拉攏人心，樹立威望。尤其是郭天敘，仗著小明王封的都元帥稱號，處處擠壓被封為副元帥的朱元璋，以明確的方式告訴朱元璋，郭家軍是姓郭的，姓朱的人離遠點。
面對這種情形，朱元璋心中很苦惱。本來被小明王封為左副元帥，位階在郭天敘和張天祐之下，他就有些不滿，但想著他並不看重韓林兒的賞封，而且無論怎樣得有個依靠，心中也還能夠忍受。朱元璋早就不滿郭子興等幾位元帥目光短淺，獨自發展的打算早在心頭。只是眼下郭子興剛死，郭家兄弟如此排擠他，他又不能冒著不仁不義之名在這個時候離開郭家獨自發展。除了忍耐，朱元璋也在尋找機會，尋找恰當的時機擺脫郭天敘，名正言順地發展自己的勢力。
等了些時日，朱元璋心中開始有些著急，身邊的兄弟徐達、湯和他們早已看不慣郭天敘如此擠壓朱元璋，整日氣呼呼地說要殺了那姓郭的。朱元璋表面上安慰他們，說要先以團結為重，不可分裂。其實他心中，比誰都想除掉郭天敘。因為，這半年來，各路起義軍都發展得很快，只有他這一方的紅巾軍先是內訌，再是元帥們自相殘殺，折騰得毫無進展，只有朱元璋攻下些城池，收了些兵馬。再不發展，即使不被元朝滅掉，早晚也會被其他起義軍排擠出局。更重要的問題是，跟郭家兄弟無法合作，跟著郭家那幫人根本混不出什麼模樣來。那些人，包括此前濠州城內的老元帥，都是只圖眼前、胸無遠誌之人。
機會是在和州保衛戰之後。不久前，元軍以重軍圍攻和州，朱元璋以出色的軍事才能守住了和州，打退元軍，使得郭天敘和張天祐都不得不對朱元璋敬畏三分。而朱元璋則抓住時機，對兩位說出要乘勝打過長江去的意見。雖然張天祐有些不積極，但郭天敘在朱元璋的鼓動下頗為心動，張天祐也不好再堅持己見。
和州東南靠著長江，渡江不是太難的事情，問題是渡江之後如何發展。李善長建議渡江後先佔領太平，因跨過長江，正對面就是太平，太平南鄰蕪湖，東北即可到集慶，東面就是丹陽湖。丹陽湖地區的丹陽鎮、高淳、溧水、宣城都是產米的地區，只要佔領太平，集慶就在眼前，且附近地區產米，糧食物資有保障，可養兵蓄銳，待機謀集慶。
朱元璋非常認可李善長的分析，決定渡江後先取太平。就在朱元璋高興的時候，馮國用的話提醒了他：“渡江需要船隻，至少得上千條，一時也難以打造。就算有了上千條船，沒有水兵，難以行駛啊。”
眾人突然意識到這是最關鍵的問題，朱元璋和文武將士晝夜商量，也沒有好主意。
第二天一早，馮國用來見朱元璋，說想起一個人，此人或許可助一臂之力。朱元璋忙問何人，馮國用道：“巢湖水軍頭目李國勝。”李國勝是彭瑩玉的門徒，在一次和元軍作戰中失利，退到巢湖地區，建立起水兵，有一千多條大小船隻。此前，李國勝和廬州的地方頭目有冤仇，曾向朱元璋三次求兵相救。朱元璋雖未放在心上，倒也撥了些人馬過去幫忙。
朱元璋覺得此時也只能去找李國勝幫忙，為表懇切之心，他親自到巢湖去聯絡李國勝。朱元璋力勸李國勝：“如今豪傑四起，咱勢單力薄，若不聯合起來恐難發展。不如兩家合力，一起渡江，到江南謀出路。”朱元璋又把各方形式、江南情形一一陳述給李國勝聽。李國勝也覺得久居巢湖，又和地方勢力糾紛不斷，再謀發展也不是辦法，即決定合力渡江。此時，正是五月間的梅雨季節，陰雨連綿，大小河流都漲滿了水，大小船隻很輕易地就到了和州。
元至正十二年（1352年）的六月初一，朱元璋率領徐達、湯和、邵榮、馮國用、常遇春、鄧愈、李善長等人，分從水陸兩路乘風渡江。先到了採石，常遇春做前鋒，直擊元軍，元兵突然遭襲擊，很快就被擊潰。採石很容易就被攻下，且收了不少元兵。朱元璋率眾人先在採石駐紮下來，再乘勝攻太平。
僅僅休息了一天，朱元璋即決定直取太平。朱元璋擔心兵士剛剛渡江，無心再戰，又擔心他們思念家鄉，就下令把船的纜繩砍斷，讓大小船隻順著激流而走，很快江面上就沒有半點船隻的影子。兵士們見此情形，人心慌亂，不知為何。朱元璋遂召集各路軍士，大聲道：“諸位兄弟，前面就是太平府了，太平物資豐厚，只要攻下太平府，物資可隨意取得。”將士們聽了，立即有了精神，個個鬥志昂揚。
朱元璋這一招，無異於望梅止渴，以前方的誘惑鼓舞人心，激起鬥志。
將士們一鼓作氣，直攻太平，很快即取下太平。
將士們正待搶掠城中財物，卻見到處貼滿了朱元璋讓李善長事先寫好的禁令：“城中物資、女子不可搶掠，違者處以軍法。”而且有人四處巡邏探查。兵士們只好無奈地望著唾手可得的戰利品，朱元璋還殺了幾個違令的小兵示眾。
太平城中很快安定下來，兵士們個個遵守軍法，百姓們人身和物資皆未受到威脅，對朱元璋的軍隊贊不絕口。而朱元璋也擔心自己此前畢竟有所承諾，如此出爾反爾，怕軍心不穩，就讓當地的大地主、大財閥捐獻出些錢財金帛，賞給將士們，只要有賞，全軍人人歡心。
而李國勝，其實在渡江前就有自己的野心。他想趁渡江的機會暗殺朱元璋，趁機得到朱元璋的軍隊。而這一點，朱元璋已有防備，在他從巢湖回到和州的時候，馮國用和李善長一聽李國勝同意，就覺得事情恐怕沒那麼簡單，讓朱元璋多個心眼。朱元璋也知道李國勝為人狡猾，所以此前不願和他往來，但這個時候，只有借助李國勝的船隻渡江，就在心裡多了些防備。
果然，李國勝在行至江中心的時候，邀朱元璋飲酒商討軍事，預謀殺害朱元璋。朱元璋到了李國勝那裡，見李國勝身邊一個叫桑世傑的人神態不定，在未飲酒前多次躊躇地望著朱元璋。朱元璋此前去巢湖的時候，和桑世傑有過短暫的交流，知道此人誠懇踏實，見他神色異常，朱元璋向他使了個眼色，借上廁所的機會離開客房。果然，朱元璋在廁所門口遇到桑世傑，桑世傑告訴朱元璋李國勝的陰謀詭計，勸他勿飲酒。
回到客房，朱元璋稍稍坐了一下，就要告辭。李國勝當然不依，說：“剛才論軍法，談軍事，這閒酒還未喝呢。這是你我首次合作，當飲酒慶祝才是。”
朱元璋故作親密地說：“李兄不知啊，元璋不習水性，正鬧肚子呢，再不走可要壞了你的雅緻啊。”說罷還幽默地笑了幾聲。
李國勝見朱元璋並無疑心，表現自然，不可挽留，也就作罷。
朱元璋回去後，心中憤恨，決定要除掉李國勝，不然到了江對岸，又是一個障礙。
隔了兩天，朱元璋就傳話給李國勝，說今日病體痊癒，要設宴回請李國勝。李國勝心中並未多加防備，也不知道他的手下出賣了他，就去赴宴。酒桌上，朱元璋讓能喝酒的湯和、徐達他們都過來相陪，直把李國勝灌得酩酊大醉，不省人事。朱元璋向湯和使了個眼色說：“快扶李將軍下去歇息。”湯和讓幾個小兄弟把李國勝捆綁起來，丟進了長江。
這一具有戰略意義的舉動，是朱元璋攻集慶謀大業的關鍵所在。朱元璋不僅成功地渡過長江，取下太平，還在渡江途中除掉了李國勝，收編了李國勝的軍隊。從此，朱元璋擁有了第一支水軍，而太平也成為朱元璋謀取江南的第一步。