在徐樹錚被監視居住期間，一名日本駐上海的中佐武官不知道是不是也跟天津的那個小野寺一樣，屬於徐樹錚的“鐵粉”。他主動找到徐樹錚的朋友，共同商議營救徐樹錚的辦法。當時日本人出入徐宅可以不受限制，這名武官提出，可以先讓徐樹錚化裝成日本人，然後自己再進入徐宅把他帶出來。
朋友如實向徐樹錚轉達了日本武官的計劃。徐樹錚說這些雞鳴狗盜的事，我不干了，也不想再同日本人瞎胡鬧，我決計出國，其他什麼都不想。
通過這幾天的閉門靜思，徐樹錚把先前從政的經驗教訓都重新過濾了一遍。在他看來，“老總”（段祺瑞）幾次當國，對於外交方面都過分地依賴日本，光講“中日親善”，在其身邊的日本通如曹汝霖、王揖唐等人也數不勝數，而接近英美的卻沒有幾個人。
徐樹錚還清楚地記得，有一次英國人來拜訪段祺瑞，急切間找不到懂英語的人。他剛好在那裡，雖然對英語不精，但也能應付一二，這才化解了尷尬。
段祺瑞在下台之前，皖系實力那麼強盛，為什麼反而還會敗於直系之手？徐樹錚認為與外交政策有很大關係，由於外交政策所出現的偏差，導致直系得到英美的支持，政治聲譽上升；而段派和皖系卻被對日借款等問題所連累，一再受到社會輿論的抨擊。他對朋友說：“一意拉攏日本，其他列強尤其是英美當然眼紅，所以直系的曹、吳便成為奇貨可居了。我們這次所受的挫折和侮辱不就是明證嗎？”
徐樹錚苦思之後得出結論：處在新的國際局勢之下，要想搞政治就要竭力多爭取日本以外的其他國家。他這次就準備趁機會去趟歐洲，認真了解一下歐美國家的政治經濟以及軍事情況，有機會還要和各國的政治家加強接觸，以便對“將來老總出山”能夠有所幫助。
獲得租界當局的許可後，徐樹錚搭乘外輪離開了上海。外輪中途需要在香港暫停，香港總督府得知徐樹錚在船上，怕得罪直系，因此早早就派人在碼頭守候並聲明拒絕徐樹錚上岸。
就在徐樹錚窘迫萬狀、不知所措的時候，到了下午，香港總督府的態度突然又來了個一百八十度的大轉彎，他們派員持請柬登船，邀請徐樹錚到總督府參加當天的晚宴。
總督府所以前倨後恭，就是因為收到了英國駐華公使從北京發來的電報：段祺瑞已被擁戴為中華民國臨時執政！
獲知徐樹錚正在香港，按照段祺瑞的本意，是不想讓他出國的，但徐樹錚決心已定，於是段祺瑞就委派他為歐美考察專使，讓他名正言順地踏上了出國考察之旅。
徐樹錚的出國，雖然使重新組成的段幕少了一位中堅分子，但一位能人的新近加入，多少彌補了這一缺憾，此人就是建議段祺瑞實施“調和統一”的章士釗。章士釗因能文善思，早已蜚聲南北，而且他這時的政治見解和理想已完全為段祺瑞所接受，二人再次見面，可謂一見傾心。
進入組閣和構建班底階段，段祺瑞在天津本宅設立了辦事處，任命章士釗為秘書長，讓他和長子段宏業共同負責處理相關事務以及接待八方來客。
自段出山的消息傳出後，辦事處門前即冠蓋如雲，來此奔走的政客人山人海，絡繹不絕。段祺瑞上了年紀，吃不消喧鬧糾纏，便深居樓上，樓下則由章士釗和段宏業負責接待，無論何方人物，必須經二人同意，才能上樓晉見段祺瑞。
章士釗深感段祺瑞的知遇之恩，辦事非常盡心盡力。為了能夠隨時與段祺瑞商討有關問題，應付各方面的關係，他乾脆搬到段宅，住在樓下，晚上就與段宏業共宿一榻。
在徐樹錚缺席的情況下，章士釗部分代替了他的角色，成為段祺瑞新的軍師。不用大總統或大元帥，而以“臨時執政”的名義主政，即為章士釗的主張。之所以要採用這一制度設計，主要還是吸取了以往“府院之爭”迭起的教訓，於是索性將總統、總理的權力合二為一，全部收歸“臨時執政”所有。
章士釗被段祺瑞採納的另一個建議，是查辦參與賄選的國會議員。查辦名聲已經臭到家的“豬仔議員”名正言順，不會遇到什麼阻力，同時由於原國會議員大部分都參與了賄選，剩下的拒賄議員不足法定人數，無法開會，這樣就可以使“臨時執政”在理政時不至於受到國會的過多牽制。
在認為準備就緒之後，段祺瑞決定啟程進京。 1924年11月24日，他與作為臨時過渡性質的攝政內閣完成交接，正式在京就任臨時執政。