朱元璋以應天為根據地，勢力漸大，文武將士都勸他稱王獨立。而朱元璋恪守朱升的建議，堅決不肯，且讓軍隊參與到生產中來，興修水利，以減輕農民負擔，兵強糧足，但對周圍的勢力始終沒有放鬆警惕，朱元璋在尋機而動。
元至正十八年（1358年）底，朱元璋把軍事進攻的矛頭指向土地肥沃，盛產糧食絲綢的浙江一帶，取下婺州，在婺州設立中書浙東行省。元至正十九年（1359年）初，先後佔領諸暨、處州等地。朱元璋知道江南富庶，且美女如雲，擔心將士們在江浙一帶為財色所迷惑，一再強調軍紀和軍人的作風問題。然而，人皆有欲，雖軍令嚴格，還是有人照犯，為此朱元璋殺了不少兵士，以警人心。
早在應天的時候，朱元璋就知道浙江四傑在江南聲名享譽，而四傑之中的劉伯溫有“小諸葛”的美稱，說他上知天文，下知地理，熟讀兵法，料事如神，博覽群書。元至順年間，劉伯溫曾中進士，擔任過江西瑞州府高安縣的縣丞，處理地方事務，嚴厲且能惠愛百姓，絕不寬宥違法亂紀者，但體恤民情，不避強權，受到當地百姓的愛戴，為豪強嫉恨，辭官回青田老家。後來元朝廷又召他出任江浙儒學副提舉，兼任行省考試官，因檢舉監察御史失職，受到一些人的責難，又辭職回青田。後來起義軍四起，劉伯溫時而隱居教書，時而與友人詩詞唱和往來。
在朱元璋看來若能得到劉伯溫的輔佐，在江南的發展將會不同凡響。
朱元璋曾問李善長：“先生知道青田劉伯溫吧？”
李善長說：“浙江四傑之一啊，早在老家就有耳聞。而劉伯溫是四傑中最傑出的那個，此人賢明有智，堪稱諸葛在世。”
朱元璋故意搖頭道：“難道可與先生相比？”
李善長慌忙道：“大帥啊，善長怎敢與劉伯溫相比。”
朱元璋呵呵笑過之後，求賢之心更切，決定動員劉伯溫出山輔佐。
朱元璋知道胡大海在攻克浙東一帶的時候，和浙江四傑有過往來，就讓胡大海親自拜請四位出山任職，起初他們是和胡大海交往過，也表示過對朱元璋仁義之師的欣賞。而這次胡大海去請劉伯溫，雖然還帶了朱元璋的親筆書信，卻被羞辱了一番。
原因竟然是朱元璋前不久所殺的一個女子，竟是江南才女蘇坦妹，而蘇坦妹和才女楚方玉並稱“江南蘇楚”，和浙江四傑多有往來，不僅詩詞唱和，還經常一同參加當時浙江有名的“蘭溪會”，吟詩作對，談論天下大事。蘇坦妹不僅相貌絕美，且聰穎過人，琴棋詩畫皆受好評。
當朱元璋得知自己所殺的那個美女居然是蘇坦妹，一下子驚坐在椅子上，很久都沒回過神來。朱元璋怎麼也沒想到，自己所殺的竟然是江南才女蘇坦妹，他還曾拜讀過劉伯溫與蘇坦妹唱和的詩詞，如今卻為整頓軍紀讓她做了替死鬼，心中懊悔異常，也明白想要求到劉伯溫不是那麼容易的事。
也許朱元璋做過很多錯事，但他都沒後悔過，而殺了蘇坦妹卻讓他痛心不已，後悔難當，他知道必須為自己的魯莽行為負責。幾宿思索過後，朱元璋決定親去蘇坦妹的墓前祭奠致歉。
見到蘇坦妹墓前的碑文，朱元璋心中更是一番難受。碑文有楚方玉的沉痛悼念和對朱元璋的討伐，見到墓前種滿鮮花，獻滿禮物，朱元璋知道來悼念蘇坦妹的文人墨客肯定不少。
朱元璋當下決定，在蘇坦妹墓前築碑立文，自我檢討。
朱元璋的碑文一立，頓時引起城內外的騷動。不知道朱元璋殺蘇坦妹的人也都知道了此事，而知道此事的人看法不一。
朱元璋對李善長說道：“咱不管天下人如何看待，朱元璋做了一件愚蠢的事，就是要向天下人檢討，願蘇坦妹地下能知朱元璋對她的歉疚。”
胡大海知道此時朱元璋不宜直接出面再求劉伯溫出山，就建議朱元璋讓他再去青田。
胡大海去的時候，朱元璋備了一份厚禮，請胡大海面送劉伯溫。
這次，劉伯溫謝絕了禮物，只對胡大海說：“朱元帥有大氣度，定能成就大業。”
朱元璋知道自己立碑懺悔之事，緩解了劉伯溫對自己的不滿和憤怒，決定過段日子親去青田相訪。
朱元璋見到劉伯溫後，痛陳自己殺蘇坦妹的悔恨之意，劉伯溫見朱元璋是真有誠意懺悔，而非樹碑做樣子，心中有些動搖。
朱元璋道：“元璋知道此誤，致使天下人詬病，更讓文人儒士傷心，但已鑄成大錯，蘇坦妹的性命不可挽回。元璋誠求先生出山相佐，但知先生自杭州被攻下後，隱居青田，潛心著述，元璋打擾並非為己，而是為了天下的百姓啊。如今戰亂四起，百姓生活在水深火熱中，若再亂下去，天下百姓何以聊生。”
見劉伯溫搖頭沉思，朱元璋拱手道：“望先生三思，元璋願為天下百姓再來相求。”
劉伯溫徹底被朱元璋的言辭征服了，不是朱元璋不懈的誠意，而是朱元璋拿出天下百姓的名義相求。劉伯溫本崇尚儒家的出世思想，自己也有一番政治理想，但生逢亂世，他只得隱居在青田老家，以求太平。
劉伯溫道：“言既如此，伯溫當鼎力相助。”
朱元璋見劉伯溫肯出山，再三施禮相謝。
這是元至正二十年（1360年），朱元璋從派胡大海相求，到自己面見劉伯溫，歷時已有一年了。
這就是朱元璋的聰明所在，他知道該怎樣表現自己，向天下人表示自己的懺悔，挽救錯誤；也知道該怎樣對待一個崇尚儒道的文人，巧妙地借天下百姓的名義，避過自己成就大業的私心。得到劉伯溫，對朱元璋來說是一筆巨大的財富，無論是劉伯溫最初提出的“時務十八策”，還是為朱元璋制定的先滅陳友諒，再滅張士誠，然後北向中原，一統天下的軍事戰略，都對朱元璋統一天下，建立大明王朝起到了異常重要的作用。朱元璋自己也多次稱劉伯溫為：“吾之子房也。”可見得到劉伯溫，對朱元璋的價值和意義。