日本人一撒嬌，主導和會的大國立即做出讓步。 1919年4月30日，美英法三巨頭擬定《凡爾賽條約》三條款，決定將德國在山東所奪取的權利全部讓與日本。
中國對於恢復山東主權的要求理所當然遭到了拒絕。在這種情況下，陸徵祥也考慮過不籤和約，將來與德國直接進行交涉，可是他又對此沒有把握，於是便致電北京徵求意見。
外交委員會召開緊急會議進行商討，商討的結果是不簽約。隨後外交委員會委員長汪大燮、事務長林長民前往總統府，將拒簽電稿呈交徐世昌。徐世昌看完表示同意，遂令國務院將電稿拍發給代表團。
可是國務院的意見卻與外交委員會相左，第二天就密電代表團簽約。國務院電報處正好有一個林長民的同鄉，他發現後便偷偷地跑去把這一情況告訴了林長民。
汪大燮、林長民聞訊大怒。汪大燮命令即刻結束會務，並親自寫下辭呈送交徐世昌。林長民則密電正在法國的梁啟超，請他通知巴黎的中國留學生，組織起來對簽約進行反對。
做完這些後，汪大燮仍覺得聲勢不夠，尤其是作為總統的徐世昌面對他的辭呈未再做任何表態，說明其意見已與國務院一致。
正在感到焦慮，有人對他說：“北大學生本要遊行，何不去告訴蔡先生？”
蔡先生指的是北大校長蔡元培。他已經獲悉了巴黎和會拒絕中國要求的消息，為此召集學生代表，指出這是國家存亡的關鍵時刻，號召奮起救國。學生代表們於是決定舉行遊行示威運動，日期定於5月7日的“國恥紀念日”——正是在四年前的這一天，日本政府向中國發出了關於“二十一條”的最後通牒。
汪大燮聽後，即坐馬車前往蔡宅，將政府主張簽約的事告訴了他。蔡元培於當晚在自己家中召集學生代表開會，會議決定將游行日期提早三天進行。
5月4日下午，北京大學聯合北京各高等學校學生，雲集於天安門附近舉行示威遊行，近代史上有名的五四運動開始了。
在錢能訓內閣中，大部分閣員為段內閣的舊人，其中的交通總長曹汝霖、幣制局總裁陸宗輿、駐日公使章宗祥，都曾是對日借款的經手人，遊行學生同時要求對這三人進行懲辦。
撇開曹、章不談，段祺瑞對陸宗輿的印像其實並不好。他有一次曾說陸不是一個好人，別人問為什麼，他的回答倒也頗有趣味：一打牌，就能測出來了。
陸宗輿是段公館牌桌上的常客。打麻將的時候，別人都把票子放在桌上，他卻把錢放在自己衣袋裡，等到輸了，才慢吞吞地一個子兒一個子兒摸出來。段祺瑞以牌品論人品，覺得陸宗輿很不男人。
等到陸宗輿遭到聲討，有人就問段祺瑞：“陸既是壞人，老總（指段祺瑞）過去為什麼要重用他呢？”段祺瑞的回答頗有些耐人尋味：“項城（袁世凱）重用他，我未曾重用他。”
對段祺瑞而言，向日本借款是利用日本人，反正以後也沒打算償還，而幫他辦理這樁事的政府要員，其作用也僅限於此，所以算不上是重用。
某種程度上，曹汝霖、陸宗輿、章宗祥只是做了段祺瑞其實並不想做，但又不得不做的一件事。現在段祺瑞下了台，他們還在台上，也就活該要倒霉了。
五四運動爆發時，傳說曹、陸、章三人正在曹家開會，學生們便直接沖向了曹汝霖的住宅趙家樓。
曹汝霖和寄住在他家的章宗祥見學生來勢洶洶，急忙四處躲藏。學生破門而入後，沒找到人，剛好看到有一箱火油，便縱火焚燒趙家樓。章宗祥見屋內火起，急忙從藏身處逃出，不料與學生撞個正著。學生以為他是曹汝霖，立即一擁而上，飽以老拳。章宗祥頓時被打得遍體鱗傷，不省人事。
據說當時趙家樓內有幾十個武裝警察，但看到學生衝進來後根本不敢阻止。直到學生縱火，軍警趕來滅火，才逮捕了36名來不及逃散的學生。
這就是五四運動的開篇“火燒趙家樓”。在此之前，蔡元培曾讓學生代表轉告學生，要求遊行過程中嚴守秩序。 “火燒趙家樓”之後，他一面遞交辭呈，一面與其他大學的校長一起前往警察總監處具保，要求釋放被捕學生。
由於釋放要求未能得到滿足，國民外交協會決定在5月7日到中央公園召開國民大會。國民外交協會與外交委員會同時成立，當時為的就是與外交委員會相互呼應。該協會共有會員百餘人，其中有不少各大學的學生和西南代表。
5月7日晨，外交協會秘書梁秋水從中央公園門口路過時，發現園門已經關閉，門外有十餘個武裝警察，架著機槍。顯然，政府已經掌握開會的消息並預先做了防備。
梁秋水到會所後，又有三十餘個武裝警察進來，把院子都佔滿了。問他們所為何來，對方稱奉衛戍司令部警察總廳命令，禁止協會在公園開會，若不遵命就逮捕會員，封閉會所。
梁秋水馬上問他們：“司令部和警察廳是日本機關，還是中國機關？”
警察們老實作答：“是中國機關。”
又問：“諸位薪餉是日本的錢，還是中國的錢？”
答：“是中國的錢。”
再問：“諸位知道我們今天為什麼要去公園開會？”
“不知道。”