在開封府尹趙光義的勢力獲得瘋狂增長的同時，眾臣對於他的用心也開始進行猜測，朝中一時間出現風言風語，而這其中宰相趙普首先敏銳地感覺到了趙光義的動向。
趙普作為趙匡胤最為倚重的朝臣，從他任後周殿前都點檢時便跟隨著他，輔佐他登上皇位之後又跟隨趙匡胤四方征戰，建立文政，可謂大宋第一大功臣。但是隨著地位的不斷提高，趙普也逐漸變得不安分起來，從一個讀書人變成貪財之輩。在任職宰相期間，趙普為自己強買宅邸、收受賄賂，以自己的功勞和地位為基礎在朝中建立起龐大的人脈組織，讓朝臣都不敢言。對這一切，趙匡胤都裝作沒有察覺，只是不願意因為這些事情而罷黜輔佐自己十多年的宰相而已。趙光義隨著勢力的不斷增大，與趙普逐漸形成了鼎足之勢，兩個人互相視對方為敵，不斷尋找機會削弱對方增強自己。
作為曾經參與了無數鬥爭的謀臣，趙普對於趙光義的心懷不軌早就有了戒心，因此在趙匡胤面前總是提醒他要注意光義所為。但趙匡胤卻不以為然地說：“光義是我的胞弟，他肯定不會做什麼對我不利的事情的。”
趙普語重心長地說：“自從光義做了開封府尹，在開封建立起了自己龐大的勢力，已經讓朝臣恐慌了。難道陛下一點都沒有察覺他的用意，還想要將皇位傳給他不成？”
趙匡胤說：“光義現在知道籠絡人心，是他開始成熟的標誌，這麼大的一個國家如果沒有自己的勢力，如何在朝堂之上立足？他現在已經懂得了這個道理，所以培養自己的心腹，這一點我是讚賞的。倒是皇子德昭，雖然年紀也不小了，但是絲毫沒有這方面的想法，只是等著我傳位給他。試問，就算我將皇位傳給了他，憑他一人之力又怎麼讓朝臣服從？又有誰是他可以依靠的呢？”
趙普聽趙匡胤這麼一說，似乎對於趙光義私結朋黨一事並不放在心上，甚至還有一些讚賞，知道自己再勸下去只會引起趙匡胤的不滿而已，只能退出。但他卻沒有停止尋找趙光義破綻的腳步。
公元966年，趙普利用自己安排在梓州的心腹周永狀告梓州知州馮瓚私受賄賂。趙匡胤一聽大怒，命馮瓚進京述職，讓御史台對其加以審問。趙普乘機派人搜查了馮瓚的行囊，在其中找到很多金塊以及無數珍玩，而這些珍寶上的印記都寫著劉璈之名。
趙普對趙匡胤匯報說：“劉璈本來是工部郎中，但他現在所擔任的職務卻是開封府判官，直接歸屬趙光義管轄，是光義府中的重要人物。他不會私自和馮瓚這些人聯絡的，肯定是受了光義的指使，去梓州拉攏馮瓚。”
趙匡胤皺著眉說：“既然你這麼說，那就讓劉璈和馮瓚來問個清楚吧！”
趙普之所以用心良苦地挖掘出受賄者和行賄者，是為了讓趙匡胤看一看趙光義此時觸角已經伸到哪兒了，這種盤根錯節的關係對於大宋的安定是一大威脅。但劉璈和馮瓚等人卻異口同聲地否認了這些金銀和趙光義的關係，聲稱只是出於私交，送給馮瓚的一點禮物。
趙匡胤說：“既然只是私交禮物，就不算是行賄了。”
趙普眼看劉璈、馮瓚要蒙混過關，便堅持問：“劉璈只是開封府的一個判官而已，哪裡來的這麼多金銀財寶，而且他和馮瓚交往並不多，又怎麼會送這麼貴重的禮物呢？”
劉璈說：“開封府尹是一個仁慈的主子，對於屬下非常款待，因此會不時賞賜給我們一些財物。這些財寶也都是府尹賞賜給我的，我不敢專美，就將他轉送給馮瓚而已。”
趙光義也為自己的幕僚辯解說：“一點金銀而已，和人心相比有什麼呢？陛下時常教導我要善待部下，所以用這些金銀賞賜給他們，讓他們盡心地為國家做事，也是我的一貫作風。陛下向來都是讚許的，只是宰相看不慣而已。”
兩個人在朝堂之上唇槍舌劍，趙普和趙光義寸步不讓的辯論讓趙匡胤非常頭疼。他擺了擺手製止說：“馮瓚作為知州，本身就應該避免瓜田李下，不該收這樣貴重的禮物，這一點是他的不自查。就將他免去知州一職，流放到登州馮門島。其他人並無過失，以後要注意自己的言行就是了。”
這一場紛爭最終以馮瓚被流放而結束，趙匡胤在其中做了權衡之後，不願意趙普和趙光義再這麼相鬥下去，因此只能折中調停。但趙普對於處理結果依舊非常不滿意，他對趙匡胤說：“光義現在已經控制了全國絕大多數知州為他服務，馮瓚只不過是其中之一而已。陛下應該對他更謹慎一些，不能再這麼放任下去了。”
已經被他和趙光義之間互相爭鬥搞得煩惱不堪的趙匡胤惱怒地說：“傳位給誰做太子，這是我趙家的家事，對此我有自己的打算，你為了阻攔我已經數次誣衊光義了，難道你一定要讓我貶廢了他才滿意嗎？”
趙普驚慌地說：“臣不敢，只是怕光義繼位，則大宋江山堪憂而已。”
趙匡胤冷笑著說：“就算是光義繼位，江山也不至於旁落。倒是大臣插手儲君的廢立，才是讓國家變得不安穩的根本原因。”
話已至此，趙普深知趙匡胤最為忌諱朝臣專權，因此不敢再說了。而趙光義卻通過不斷向趙匡胤獻殷勤而獲得了他的寵信，對於趙普對自己的攻擊，他一直都在尋找著反擊的機會。
趙光義對於趙普的攻擊一直都以他受賄、斂財等作為出發點，雖然朝臣受賄是一件非常嚴重的事情，但放在趙普的身上卻不會起到多大的作用，皆因趙匡胤對其長期積累的信任，這些罪責不足以成為趙匡胤對其治罪的原因。直到公元972年，趙光義終於找到了自己最佳的反擊機會。
這一年，趙普為自己的兒子趙承宗選擇了一門親事，與樞密使李崇炬結為兒女親家。這本是一件非常喜慶的事，但趙光義卻對趙匡胤說：“趙普在朝中擔任宰相，是一人之下萬人之上，百官對其都非常尊敬。但是他還不滿足，在朝中籠絡了不少有實權的大臣，這一次他要和李崇炬結為親家，目的也非常明顯，不過是想聯合李崇炬的勢力而已。”
趙匡胤歷來非常忌諱朝臣結黨，趙光義正是抓住了這一點對其進言，果然引起了趙匡胤的警惕。他以祝賀的名義召見了趙普，對他說：“你和李崇炬結為親家本來是一件好事，但有人反映李崇炬此人有不軌的行為。”
趙普忙問：“李崇炬向來忠誠，怎麼會做出對不起陛下的事來呢？我選擇兒女親家，其人品道德自然是第一重要的。如果他犯了什麼錯誤，我一定會慎重考慮這門親事的。”
趙匡胤說：“這幾天，我接到了一份密報，是李崇炬的一個叫做鄭伸的門客送來的，他是李崇炬最為信任的心腹。他舉報李崇炬收受了不少賄賂，為朝中官員謀私。這事難道你不知道嗎？”
趙普大吃一驚：“此事我不知道，如果這是真的，我現在就取消這門親事。”
不久，李崇炬便因為受賄而被免去了樞密使一職，僅任沒有實權的鎮國軍節度使。而成功舉報他的鄭伸則被重用，被賜予同進士出身。趙普和李崇炬的聯姻失去了任何政治意義。
在破壞趙匡胤對於趙普的信任的基礎上，趙光義又指使翰林學士盧多遜對趙普進行指責，以強買宅邸、私販秦隴巨木等理由彈劾他。在眾臣圍攻下，趙匡胤對於趙普終於逐漸生厭，在李崇炬被貶之後，趙普的權力也開始被削弱，副宰相參知政事的權力不斷提高，凡是宰相府頒布的文件必須由參知政事共同簽署才能生效；而在宰相府中擔任重要職務的屬官也被趙匡胤一次性更換了十五人之多，趙普的心腹都被撤職。宰相逐漸受到了牽制，而權勢慢慢開始衰微。
敗勢一旦形成，就如山傾倒，趙普在一年之內便被趙匡胤疏遠，終於在公元973年八月被罷為檢校太尉、同平章事等職務，離開京城。淒然地看著自己坐了十多年的宰相之位易主，趙普明白自己大勢已去，他知道自己一旦離開開封，趙光義的勢力便因失去了任何阻礙而瘋狂增長。這一年，趙普才五十二歲，趙光義很有可能在他有生之年便會繼位登基。趙匡胤最後捨棄了股肱之臣，保留了自己的胞弟，趙普深知趙光義一旦得權一定會對自己不利，老謀深算的他在罷相離京時，特別上書聲稱自己對趙光義並無不滿，相反非常讚賞他的忠孝全德。這一舉動為他後來再回開封留下了伏筆。