國民黨大勢已去，李宗仁在北平解放之前曾打算組一個代表團與共產黨談判，當時他考慮的合適人選是享有和平將軍之稱的張治中。
張治中在南京住了一段，因已經下野的蔣介石對他參加和談沒有表態，加之李宗仁也有點猶豫，代表團沒有組織起來，張治中認為在這種情況下，和談一時無法開始，於是就向李宗仁請求：“我還是回西北去吧？”
李宗仁問：“你剛來，著什麼急？”
張治中面帶難色，說出心裡話：“我是為和談而來的，但現在情況復雜，我們動不了身，我住在這裡也就沒有意義了。”
李宗仁望著他說：“你的心情我理解，你是西北的最高行政長官，暫時回去處理一下公務可以，但我們和共產黨的談判是一定要搞的，只是時機問題，你要快去快回啊！”
善於外交事務的張治中是一貫主張和平的人，此時為什麼打起了退堂鼓呢？這也很簡單，他來到南京後覺得國民黨的氣數已盡，內心充滿矛盾，認為無論怎麼和談都不可能有回天之力了，他對和談也沒有信心，想退回西北去。另外，他對南京政府的內情也有看法。
李宗仁上台後，曾想改組內閣，以刷新內政來收攏人心，促成和談，他多次表示要讓張治中來擔任行政院長，不料張治中對此並無興趣，明確表態不願接受。在這種特殊情況下，他感到全局無望，與其說留在南京，還不如退回西北再觀局勢。
他下決心返回蘭州後，表態不再離開西北，還向李宗仁發專電請求辭去和談代表一職。離開南京時，張治中曾向李宗仁說：
“最好把孫夫人和李濟深請來，先行改組政府再和談。你能請到孫夫人任行政院長，李濟深負責黨務，局勢一定會大有改觀，會出現振奮人心的情景。”
李宗仁說：“這個建議很好，我會努力去做工作。”
後來李宗仁也確實派人去請這兩個元老，但沒有成功。在那種情形下，當然不會成功，這不過是李宗仁的主觀幻想而已。
身為西北軍政長官的張治中自從退回蘭州，心情更加不安，戰爭仍在繼續。此時，他考慮的大事是如何保全西北，當時除了新疆有把握外，他最不放心的是寧夏、青海的兩馬，當時甘肅地盤很大，暴露的問題也相當多，得下一番功夫。有一次他在甘肅省黨部開紀念會時，做了題為《三年來和運的回顧與展望》的長篇講演。他除了向人們講述這三年來的和運經過外，還把自己一貫的主張坦白地講了出來。最後他還指出自己所以要主和的原因，暗示西北將來也非和不可。
那時他自己是想在蘭州做些工作的，可是李宗仁卻多次打電話、電報催他回南京參加和談。在這緊要關頭李宗仁自然不會同意他置身事外，也有不少朋友寫信勸他參加和談，認為不管和談成與不成，你既然一貫主和，說現在雙方都和談，你是不能迴避責任的。張治中自己也認為：此時和談的可能性雖然很小，但是如果置身事外，也不是對人民、對國家應有的態度；由於他自己20多年來對和平的痴心夢想，他也對當前的和談仍然抱一點希望。
經過鄭重考慮後，他還是接受了李的邀請，飛回南京。
那天南京的氣候異常惡劣，能見度只有200米，雲層既低，又有細雨。飛機安全著陸後，他幾乎出了一身冷汗。
他走下飛機，前來接他的何應欽笑著說：“文白兄真是福星高照啊！我們真擔心飛機出事呢。”
張治中說：“一路上天氣都不好，差一點見不到你們了。”
白崇禧握著他的手，講：“我聽到半空中飛機的聲音，眼看著盤旋了半小時之久，尚在替你禱告平安哩！你是大難不死，必有後福。”
張治中笑了，他說：“有什麼福呀！可能是豆腐……”
來迎接他的官員都笑了。
張治中到南京的當天就去見李宗仁。
此時李宗仁心情仍不是很好，北平已和平解放，解放大軍已有明顯的南下渡江的態勢，他這個代總統只不過是一個擺設罷了，蔣介石仍在幕後獨攬大權，他一調動不了軍隊，二手中無錢，現狀很難維持，情形很不妙。
他主張和談，打算能保留長江以南的半壁江山。張治中既然為和談而來，當然最關心的就是談判。他一進李宗仁的公館就問：“我這次真是為和談而來的，你讓我代表政府去北平與共產黨和談，有什麼方針沒有？”
李宗仁讓秘書給張治中送來一條熱毛巾，坐在長沙發上講：
“你先不要急嘛，喘口氣，擦擦汗咱們再議吧。”
何應欽與白崇禧坐在一旁沒有說話，望著李宗仁抽煙。張治中喝了幾口茶，又說：“我是著急的，這麼大的重任落在肩上，你們說還能坐得住嗎？”
李宗仁開口說話：“文白兄，關於和談的方針我上次與你談了，不能變，有關方案還沒有最後定，但我們的原則是明確的，那就是共產黨的軍隊不能過江，我們只有這塊地方啊！”
白崇禧接著講：“如果共產黨的軍隊堅決要過江，我們也不會怕，到時吃虧的是他們，而不是我們。”
李宗仁說：“過不過江是關係我們命運的大事，你心裡也是清楚的嘛。”
張治中沉默了一會兒，對他們說：“毛澤東發表的中共八項和談條件，我反复研究過了，他們絕對不會與我們平分天下。”
白崇禧說：“我已說過了，不要怕，現在我軍的主力雖說部分被殲，但我們有強大的空軍、海軍，還有近百萬陸軍可以投入戰場，實力還在，共產黨的那點軍隊沒有什麼了不起的。”
何應欽的精神狀態很不佳，看上去有點意志消沉。他聽完白崇禧的高談闊論後，搖搖頭說：“我們也不能太樂觀了。”
白崇禧有點不高興，他問：“這怎麼講？”
何應欽說：“大家心裡很明白，現在我們政府內部問題太多，德公的權力有多大呢？蔣先生名義上下野了，但仍在控制著軍隊……”
白崇禧不吭聲了。張治中也沒有說什麼，李宗仁憂心忡忡地講：“是啊，我的工作太難做了，我在這裡下的命令幾乎沒有多少人執行，你說怎麼辦？”
張治中說：“依我看如果真是這樣，惟一的辦法是讓蔣先生把權全部交出來，讓德公當一個名副其實的總統，什麼代總統？這個做法本來就不太妥當嘛。”
白崇禧說：“你講得對，如果不這樣，我們是乾不下去的。”
李宗仁信心不足，他望著大家說：“我本人與蔣宿怨很深，我就任副總統時他就出了我不少洋相哩，現在他是躲在幕後看我的笑話呢，讓他完全交權，恐怕不是那麼容易啊……”
張治中突然站起來，望了一會兒戶外的陰雨天空，回過頭說：“辦法是有的，就看你們贊不贊同了。”
李宗仁忙問：“有何高見？”
張治中說：“只有勸蔣出國。”
白崇禧拍手說：“文白先生高見。”
李宗仁說：“這是一個辦法，但是現在蔣身邊的人很複雜，主戰者居多，他們堅決反對我們和談，想請一個人去做蔣的工作很難，還是你最合適，就請你去溪口一趟，別人蔣先生不會買賬。”
何應欽說：“在我們國民黨內部，文白兄是敢於與蔣先生唱反調的人，你去勸他，別人也不會說什麼，蔣更不會說什麼。”
張治中望著李宗仁說：“也只有我去了。”
本來說好了張治中溪口之行的用意事先不要向外聲張，可是張治中前腳一走，白崇禧卻有意將這個行動透露給了報界，當天下午就有報紙公開了此事，勸蔣出國的消息不脛而走。
這時，人們也常常聽到李宗仁的親信發牢騷，說蔣介石表面上是下野了，事實上還在溪口指揮一切，在和各方面聯絡，特別是與各地高級將領仍有著相當密切的聯繫，而李代總統發表的七項措施，特別是釋放政治犯（指明張學良、楊虎城）根本做不到。
“我們管不了，就交還給蔣先生繼續管吧！李總統不過是代理，一走就可以了事的。”
在這種形勢下，張治中便動了勸蔣出國的念頭，他認為只有這樣才能使李宗仁放開手去做工作，這樣對蔣個人也有利。
張治中從李宗仁的公館出來，又去找他的好友，國民黨元老張群和吳忠信等幾個人商量。張群的態度也很明朗，他對張治中講：
“現在時局很微妙了，你的這個建議我是完全同意的，蔣先生現在能出國，於國於民，於他本人都有利。”
吳忠信也贊同，他說：“這是個好主意，不過老頭子的脾氣不好，也許他不接受。一般人去勸說，他會生氣的。”
張治中笑著說：“所以我才請你們二位與我一起去溪口勸老頭，你們二位與他私交很深，又是黨國元老，他不好難為你們的。”
張群說：“我本應與你們一道去，可是近日身體不好，不能奉陪了。”
吳忠信當場表態願與張治中前往。
於是他們兩人就在李宗仁的安排下坐專機動身了。