段祺瑞的鼻子歪掉了，氣歪的。 1917年3月4日，他率全體閣員直接來到總統府，請黎元洪在絕交案和節略上蓋印。黎元洪瀏覽了一下絕交案，看到有“對德絕交”幾個字，馬上拒絕蓋印。
段祺瑞和內閣不干了，雙方大吵了起來。這是一種互相疊加的情緒反應，你給我九分厲害，我就還你十分顏色。一向顯得窩窩囊囊的黎元洪也一反常態地發了火，聲音非常嚴厲。
黎元洪強調依照臨時約法，他有宣戰媾和的特權。內閣亦不示弱，說你有特權不假，但我們實行的是責任內閣制，約法有明確規定，總統必須尊重內閣的決定，你現在這樣輕易推翻內閣的決議案，不是目無內閣嗎？
一名閣員說到激動處，甚至拍了桌子：“總統簡直優柔誤國！”
這句話算是道出了段祺瑞的心聲，他對黎元洪說：“總統既然不信任我，事事和我作梗，國會又處處找我麻煩，和我背道而馳，這樣的國務總理我是沒法幹下去了。”
段祺瑞憤而辭職，並於當晚坐專車去了天津。
得知段祺瑞出走，黎元洪那些不知輕重的幕僚們都樂壞了，他們紛紛慫恿黎元洪趁機改組內閣，換一個聽話的總理上來。
對於換人，黎元洪內心裡求之不得，他徵詢了徐世昌和王士珍的意見，準備請二人中的一人出任總理。可是徐、王均為政治場上的老手，誰也不願跳這個火坑，另一邊，各省軍民長官則發來通電，要求挽留段祺瑞。
壓力一大，黎元洪照例又撐不住了，只得請馮國璋親自到天津勸段返京，同時承諾不再乾預內閣確定的外交方針。
馮國璋到天津後告訴段祺瑞：“只要國會能通過對德絕交案，總統當會依法執行，決不會加以乾涉。”
見黎元洪已經讓步，段祺瑞也趕快見好就收，隨馮國璋返京重新辦公。回京後他做的第一件事，就是以國務院、外交部名義致電日本政府，提出“加入協約國條件節略”。日本政府的答復是中國政府應先行對德絕交，至於絕交後的權利義務問題，到時可與協約國方面協商解決，中國不必事先提出條件。
接下來，段祺瑞親自出席參眾兩院秘密會議，提出對政府外交政策的信任案，此案在兩院分別以多數票得以通過。 1917年3月14日，北京外交部正式照會德國公使，宣布對德絕交。
與德絕交之後，中國隨即接收天津、漢口德租界，停付德奧庚子賠款，同時封存德國在華公產，接收德國在華輪船及其他軍用財產，算是獲得了加入協約國的陣營的一些初步利益。
在段祺瑞的計劃中，絕交只是第一步，宣戰才是最關鍵的那一步，但黎元洪認為絕交是他在對德問題上的底線，反對採取進一步的宣戰步驟。
這時不僅黎元洪，朝野各界從中央到地方，絕大多數人都反對宣戰。當然具體到每個派別和實力派人物，在出發點和考慮角度上都會有所不同——以孫中山為首的國民黨人主張中立，目的是不希望段祺瑞在外交政策上再取得成功，從而提高其威望；西南諸侯擔心，段祺瑞取得協約國的同情並獲得日本的援助後，會對西南貫徹武力統一政策；北洋系雖被段祺瑞倚為靠山，但包括馮國璋、張勛在內的北洋軍頭或不真心支持參戰，或直接把電報打給國務院予以反對，其真實理由卻是害怕拋棄地盤，以及帶兵到遙遠的歐洲去送死以及消耗實力。
就連向來與段祺瑞保持一致的徐樹錚，也出人意料地與幕主唱起了反調。徐樹錚雖非留德學生出身，卻非常崇拜德國。他認為德意志民族優秀，科學進步，絕無戰敗之理，因此屢次上書段祺瑞，主張不可參戰，應嚴守中立。段祺瑞大怒，曾當著徐樹錚的面，將他的報告書扔到地上。
徐樹錚素為段祺瑞之靈魂，此前別說扔他的報告了，連重話都不會有一句。這一罕見的舉動，也表明了段祺瑞所面臨壓力之大。
就在段祺瑞感到孤立之際，梁啟超突然登門拜訪，再次以實際行動支持段祺瑞。