“三一八慘案”後，國民軍面對直奉聯軍的攻勢已無抵御之力。馮玉祥感到除與舊日的上司兼好友吳佩孚重歸於好外，別無出路，於是決定趁著執政府因“暴力槍殺良民”而落入窘境，在京城上演一出捉段放曹（曹錕）的武戲，以便討好吳佩孚。
1926年4月9日夜，鹿鍾麟率警備司令部的大隊人馬包圍了吉兆胡同。幸好已經自行脫險的曾毓雋事先得到消息，派人通知了段祺瑞。由於大街上已經戒嚴、盤查，段祺瑞便由衛隊長護送，暫時到同住於一條胡同的老同學家裡躲避。
鹿鍾麟本來想指揮人馬衝進段公館，活捉段祺瑞，後來發現胡同口有機槍連布防，只得暫時停止前進，雙方對峙達三小時之久。對峙期間，北京城裡滿街都是士兵，氣氛十分緊張。
為了防止國民軍突破火力布防，強行闖入段公館，或者在附近進行搜查，曾毓雋靈機一動，特地通過報社連夜發出號外，稱段祺瑞已進入東交民巷。鹿鍾麟看到號外後，信以為真，只得撤兵回府。
鹿鍾麟一返回司令部，即以北京警備司令的名義釋放了一直被他們幽禁的曹錕。天亮後，他與其他國民軍將領一道發出聯名通電，在逐條列舉段祺瑞罪狀的同時，宣布“保護總統（指曹錕）恢復自由”。聯名電還大拍吳佩孚的馬屁，說吳為“命世之才，抱救國之志”，國民軍“此後動定進止，唯吳玉帥（吳佩孚）馬首是瞻”。
怕吳佩孚仍弄不清他們的真意，國民軍方面又讓重新獲得自由的曹錕給吳佩孚發電報，望其與國民軍合作對付奉系。未料吳佩孚不但一口拒絕，而且要求國民軍全部繳械接受改編，他在給鹿鍾麟的電報中甚至稱“恨不能食汝之肉，寢汝之皮”。至此，馮玉祥才算完全絕望。 4月15日，國民軍退出北京城，扼守南口。
段祺瑞雖得以復職，但其政治能量已喪失殆盡。張學良代表奉系，明確表示對維持段祺瑞政權沒有信心，只能保護段祺瑞安全離開北京。 4月20日上午，段祺瑞在外交總長胡惟德不知情的情況下，特任其兼署國務總理，攝行臨時執政職權。當天下午，他乘坐張學良調派的一列專車，離開北京，前往天津。
這是段祺瑞第三次到天津過寓公生活。他在天津沒有房產，以前都是住段芝貴或吳光新的宅邸，這次來津，開始是在日租界的壽街租了一間房子，但有一次他無意中將自己的姓“段”和壽街的“壽”聯繫了起來，覺得不太吉利。吳光新聽說後，便勸他搬到自己位於日租界宮島街的寓所。
吳光新的這座寓所建於1916年，外形奇特宏大，施工質量很高，可與日租界清遜帝溥儀所居住的張園相媲美。缺點是此處離日本天津駐屯軍司令部比較近，經常有日本軍政官員來訪，段祺瑞不勝其煩，只好經常託病不見。
得知段祺瑞想找一個清淨的住所，老部下魏宗瀚就把他接到了日租界須磨街自己的寓所。
下野後的段祺瑞自稱“正道居士”，每天吃齋禮佛，十分虔誠，但他的須磨街住宅卻並不顯得門庭冷落——他的那些部下幕僚，如曾毓雋、章士釗等人全都不離不棄，一路從北京跟隨到天津，而其他各路的說客和謀士也經常前來登門“勸道”。
在這種情況下，就算老段真的像他表面宣布的那樣只談佛經不問政治，“政治”也會時不時地來光顧和過問他。問題是，此時的國內政局已經發生重大變化，他再也不可能成為政壇上的中心人物了。
甚至連段祺瑞本人都不會想到，他實際擔負著最後一次挽救和整合北洋系的使命。在段祺瑞黯然下野和段記執政府“杯碎”之後，北洋各派繼續相互削弱，使得整個北洋係以加速度奔向自己的末路。
段祺瑞對於北洋系乃至於整個近代中國的重要意義，吳佩孚是在很久以後才領悟到的。那時候，他也成了被政壇拋棄的落魄寓公，而段祺瑞剛剛去世。
吳佩孚特請人代表他到段宅弔唁，並親撰輓聯。他告訴別人：“我對合肥（指段祺瑞）之喪，一度任秘書，一度任帖寫（指輓聯等均係吳本人自作自寫），此為有生以來第一次，唯對段夫子一人而已。”
吳佩孚所寫輓聯的聯文很長，道盡了他歷經波折滄桑之後的感悟：“天下無公，未知有幾人稱帝，幾人稱王，奠國著奇功，大好河山歸再造；時局至此，皆誤在今日不知，明日不戰，憂民成痼疾，中流砥柱失元勳”。
吳佩孚送的祭幛為“木壞山頹”。大匾上款為“芝泉夫子”，下款為“受業吳佩孚敬獻”，四個大字乃“還我河山”。
那一刻，這位曾經書生意氣並無比叛逆的秀才將軍，成了最懂段祺瑞的人。