胡惟庸被殺之後，朱元璋痛定思痛，想想開國後幾位丞相的結局，不禁苦惱起來。汪廣洋懦弱不管事，到頭來仍是惹禍上身；楊憲和胡惟庸一掌朝政便開始肆意妄為。要說丞相當得最好的，就得數李善長了，各種事情處理起來井井有條，又明白皇上的心思，可終究還是令人不放心。劉伯溫最有才幹，可人家壓根兒不打算當這個丞相。朱元璋百思不得其解。
正當苦惱之際，忽然有人來報，說劉伯溫的長子劉璉前來覲見。朱元璋立即召見。
“皇上，先父生前曾寫了一份萬言書，並囑咐微臣在胡惟庸死後方可交給皇上。現在胡惟庸已死，微臣依先父遺願特呈上這份萬言書。”劉璉道。
朱元璋接過萬言書，不禁傷感起來。真是對不起劉伯溫呀，他那麼忠心耿耿，死後還進萬言書，卻最終為小人所害。朱元璋很是愧疚。
看罷萬言書，朱元璋又是一陣感慨：劉伯溫處身局外，把一切看得通透，真是奇才。他死活都不肯出任丞相，因為他清楚誰當了丞相都注定沒有好下場。朱元璋當然知道，自己這個馬上得天下的皇帝確實容不了別人獨掌大權。正如劉伯溫所說，不是當丞相的人不濟，而是丞相這個職位讓在這個位置上的人不濟。中書省的權力太大了，應該聽從劉伯溫的建議，對中書省進行改組了。
朱元璋不禁懷念起劉伯溫來。劉伯溫活著自己還可以找他說說話，商討一下定國安邦之策。可如今斯人已逝，只留下自己這個孤家寡人來面對這一切。正如劉伯溫所說，無論多麼困難，為了大明江山，為了天下百姓，他朱元璋都應該堅持下來。
其實朱元璋多年的軍事生活，使他早已經習慣了自己說了算。歷任丞相他都不滿意，不是擅權就是無所作為。他對丞相的存在早就不滿，甚至反感。他不能容忍在他和群臣之間，還有一個丞相來連接他們。胡惟庸當了七年丞相，朱元璋備感大權旁落。他覺得自己還有能力來剪除胡惟庸這樣的權臣，如果後世君王如果沒有這個能力，那他大明王朝就危險了。
朱元璋下定決心要改組中書省，無論遇到多少阻力，他都要做下去。為了把權力集中到自己手裡，更為了他朱家的千秋偉業。
一日早朝，大學士宋濂進言：“皇上，胡惟庸已被除多日，中書省一直無人打理。還請皇上儘早確定丞相人選，以便主持中書省大局。”
“宋濂啊，這段時間沒有丞相有什麼亂子嗎？沒有丞相不是還有咱這個皇上嗎？”朱元璋大聲道。
宋濂還想說什麼，朱元璋又道：“這事先放放再說，沒其他事就退朝了。”說完起身離去。
宋濂下朝時不停地搖頭嘆息。有人問道：“宋大人，您這是怎麼了啊？”
“皇上這是想廢相啊。自古以來，皇權和相權總是此消彼長，難以調和。開國以來，歷任丞相擅權使皇上感到皇權被侵。現在恐怕皇上正在圖謀變革啊，你我可都得小心些。”宋濂心事重重地說道。
剛好這話被好事之徒聽到，立即禀報了皇上。
朱元璋聽完大怒，狠狠說道：“他宋濂是什麼人！仗著有幾分才學，竟然敢對朝政指手畫腳。他以為奉天殿是他宋府書房啊。來人，把宋濂給我召來！”
太子朱標聽說此事，立即前來面見皇上。 “父皇請息怒，相信宋師只是一時糊塗才會說出這種話，還請父皇見諒。”太子朱標求情道。宋濂是太子的老師，太子一直比較敬重他。
“標兒啊，你怎麼這麼糊塗。你這樣，咱怎麼放心把這大明江山交到你手上。宋濂仗著資歷才學竟敢亂評朝政，咱豈能容他。”朱元璋道。
“父皇，宋師說的也沒錯啊。胡惟庸死了這麼久，朝廷也該選出個丞相來了。”太子繼續道。
朱元璋緊緊閉上了雙眼，表情痛苦。其實朱元璋心裡更苦，他苦心栽培了太子這麼多年，可惜太子一點也看不透這時局，以後萬一他登基了，又怎麼能鬥得過那些奸猾的權臣。朱元璋的廢相之心更加堅定了。
正在此時，有人報宋濂來到。朱元璋屏退左右，召進宋濂。
此時，房間內只有朱元璋、太子和宋濂三人。
“宋濂，自古以來，君權相權難以調和。你通覽聖賢之書，咱想問問你，如果你是皇上，你應該怎樣處理二者？”朱元璋開門見山。
宋濂嚇得立馬跪倒在地：“皇上，微臣不敢。”
“但說無妨，咱恕你無罪。”朱元璋道。
“禀皇上，自秦以來，歷朝歷代無不是皇上坐朝，丞相治國。皇上來統一全局，丞相來具體施政。此制之下，盛世迭出，說明此制上合天理，下合國情啊！”宋濂答道。
“可胡惟庸自當丞相以來，欺君篡權，結黨謀逆，差點就替咱做了皇上。咱廢除宰相制，就是怕再出現一個胡惟庸。”朱元璋不是不知道丞相制的好處，他更擔心丞相制不好的一面。歷經千年，這不好的一面也難以製約。
“皇上，丞相制下固然會有胡惟庸這樣的奸相，但也出了蕭何、魏徵、王安石這些名相啊。臣以為這不是丞相制的錯，沒有相權輔政，皇權斷不可獨行。只要用人合適，駕馭得當，丞相制定能保社稷太平。”
“好大的膽子，竟然敢說咱用人不當！”還沒等宋濂說完，朱元璋就打斷了他的話。
“臣萬萬不敢，皇上乃不世出的聖君。”宋濂趕快說道。
“一個皇上既坐朝也治國有何不可？皇上直接掌握大權，讓大臣們避開丞相這一關，必定會效率大增。少了小人作祟的機會，大明江山定會國泰民安。”朱元璋廢相之心已定，不肯聽宋濂再說下去。
“皇上，請皇上為後世之君考慮啊。皇上您是聖君，自然什麼事情都可以親自處理。但一個人的精力畢竟有限，單靠一個明智的皇上，是沒有辦法治理好一個國家的。再說，如果後世之君不是個聖君，而是個弱君，他沒有處理各種問題的能力，這時如果丞相制已廢，那誰還來輔佐我們的弱君呢？”宋濂哭訴道。
“你宋濂找死，竟敢辱沒咱的後世之君。”朱元璋憤怒道。
“請皇上恕罪。皇上，您心裡明白，臣只是為了皇上，為了大明啊。”宋濂道。
朱元璋一想也是，宋濂雖說亂評朝政，但其對朝廷是一片忠心。想到胡惟庸這等奸佞小人，不由得對宋濂的行為暗加讚賞。但朱元璋廢除丞相制、改組中書省的主意已定，他宋濂也改變不了。
第二天早朝，朱元璋正式宣布罷中書省，廢丞相制，其事交由六部處理，六部直接對皇帝負責。
此時，宋濂因氣臥病在床，聞聽此事立即帶病入朝。
“皇上，臣冒死進諫，丞相制萬不可廢啊。臣既然在朝為臣，就應該盡到臣子的義務。”宋濂跪求道。
“宋濂退下，此事已決，不可更改。”朱元璋知道有好多人出於各種目的，都不主張廢除丞相制。
“皇上，歷朝歷代有史為鑑，丞相制絕不可廢。”宋濂堅持道。
“把這老頑固拉下去，打入大牢。”朱元璋命令道，他現在必須態度堅決，也要震懾群臣。本不想拿宋濂開刀，但宋濂冒死進諫，現在看來不拿他開刀也不成了。
“有再敢進諫擁護丞相制者，宋濂就是你們的榜樣。”朱元璋對眾文武說道。
朱元璋想了想，像宋濂這樣堅決維護丞相制的人估計不在少數，他們現在礙於自己的龍威可以暫時作罷，但難保他們不鼓動後世之君重置丞相。於是朱元璋又下旨宣布，以後嗣君不許議置丞相。大臣們如果誰敢進諫奏請置丞相，必嚴懲，並把它作為祖訓傳於後代。
一時朝廷上下議論紛紛。有人認為皇上真乃聖君，廢除了存在了一千多年的丞相制，提高了六部地位；也有的為皇上擔心，認為缺少了丞相，皇上很難駕馭群臣。
不管如何，朱元璋罷了中書省，廢了丞相制。設立五府、六部、都察院、通政司、大理寺等衙門分理政務，並相互監督，直接向皇上負責。這樣，朱元璋集軍政大權於一身，成了有史以來中國最有權力的皇上。