一九三八年元旦，在舉行了南京入城式後，日本佔領軍開始迎接新年的到來。他們把攻入中華門的坦克裝扮起來，從南京郊外砍來松枝，搭起日本人過年用的“門松”。廚房裡的伙夫開始大量地打製年糕，新年物品也從日本國內運來了：橘子、海帶、魷魚乾和日式大醬。新年年會上，日軍官兵舉著斟滿清酒的酒杯，一遍遍地高呼“天皇萬歲”。
開戰僅僅五個月，中國的北平、天津、上海、南京相繼淪陷，包括華北大部、華中東部、熱河以及綏察等大片國土相繼被佔，中國軍隊在一次又一次的抗擊作戰中傷亡已達三十萬人以上。那麼，中國是否在開戰之初便滿盤皆輸，而日本已經取得了決定性勝利呢？
無論中國還是日本，雙方在這個時候似乎都意識到，他們面臨的與其說是一個軍事問題，還不如說是哲學、政治學、社會學與軍事混雜在一起的問題。
問題的核心是：交戰之中何為勝利？
日軍攻占南京的第二天，即一九三七年十二月十四日，日本召開了大本營和內閣聯席會議，討論如何繼續讓德國充當中間人與中國進行談判的問題。首先必須明確判斷：中國到底會不會屈服？談判有沒有可能達成？這一問題引發了主張適時結束戰爭的主和派與主張繼續對華實行強硬政策的主戰派的交鋒。國都已被日軍攻占，難道中國人還不屈服嗎？陸軍方面堅持認為，中國屈服的可能性很小。陸軍的判斷緣於戰場上受到的頑強抵抗和付出的巨大傷亡。為此，參謀總長特別說明，目前日本面對的局勢，急需將國防力量“充實整頓”，外相應設法令談判“不致中斷”。但內閣成員認為，“不能老是浪費時間等待中國方面的答复”，繼續施加強大武力國民政府必會徹底崩潰，那時戰爭才能真正結束。會議持續了幾天，意見無法統一，直到與會者反复研究了日方提出談判條件以來中國政府的態度，特別是蔣介石的態度，這才得出了“作為戰敗國的中國所使用的言辭實屬無禮”的結論。於是，與會者統一了對華繼續強硬的立場。
二十一日，日本向中國政府提出更為苛刻的談判條件，其基本內容是：
一、中國應放棄容共和抗日排滿政策，對日、滿兩國的防共政策給以協助。
二、在必要地區設置非武裝地帶，並在該地區內各個地方設置特殊機構。
三、在日、滿、華三國間簽訂密切的經濟協定。
四、中國應向帝國作必要的賠款。
附加的口頭說明是：
一、中國應表現出有實行防共的誠意。
二、中國在一定的期限以內，派遣媾和使節到日本所指定的地點。
三、我方考慮大體上在本年內答复。
開列的條件細目有：
―、中國正式承認滿洲國。
二、中國放棄排日和反滿政策。
三、在華北和內蒙設置非武裝地帶。
四、華北在中國的主權之下，為實現日、滿、華三國的共存共榮，應設置適當的機構，賦予廣泛的權限，特別應實現日、滿、華的經濟合作。
五、在內蒙古應設立防共自治政府，其國際地位與現在的外蒙古相似。
六、中國須確立防共政策，對日、滿兩國的防共政策予以協助。
七、在華中佔領地區設置非武裝地帶，在上海地區日、華合作負責維持治安和發展經濟。
八、日、滿、華三國在資源開發、關稅、貿易、航空、通訊等方面，應簽訂必要的協定。
九、中國應向帝國作必要的賠款。
分割佔領中國領土，奴化中國政權，實施經濟掠奪，最後通牒被侵略者要對武力劫掠者進行“必要的賠款”，日本右翼政客和軍人延續近代以來“大日本帝國”的思維方式，認為日軍鐵蹄所至之處他國必會俯首稱臣——“中國在一定的期限以內，派遣媾和使節到日本所指定的地點”——這就是說，在日本人規定的期限內，中國人必須打著白旗前往規定地點向日本求和。
德國駐日大使狄克遜認為：“這些條件遠遠越過了十一月二日的條件”，讓“中國政府接受是極其困難的”。廣田弘毅外相的回答是：“軍事局勢改變了，又有輿論的壓力，不可能有任何其他的方案了。”德國外交部將狄克遜的報告轉告陶德曼。陶德曼要求會晤蔣介石，卻被告知蔣介石“生病了”。孔祥熙和宋美齡會見了陶德曼，兩人首先對日本開列的條件感到“極其驚訝”，繼而明確表示：“舉行和平談判的努力不成功，中國將繼續抵抗到底，甚至使國家經濟崩潰，使中國人民投入俄國的懷抱，亦在所不計。”中國的態度令德國人很是為難。陶德曼繼續勸說國民政府，甚至警告，如不答應日本人的條件，也許會導致德國與中國的關係惡化。可是，中國方面再也沒有任何答復了。
見不到蔣介石，也得不到來自中國政府的任何有價值的信息，日本的政客們逐漸焦慮起來。日軍參謀本部努力打探，才零星地得到以下情報：一、狄克遜與廣田弘毅外相會晤後，傍晚拍電報給陶德曼，要求中國政府立即答复；二、蔣介石的德國軍事顧問法爾根豪將軍，已明確勸告蔣介石接受日本提出的條件；三、東京中國大使館說他們對於國內的立場和態度一無所知；四、陶德曼當面問過國民政府行政院副院長張群，對日本開列的條件有無答复，張群的回答極具中國特色：“還在研究中。”
日本人充滿了困惑和憤懣。
一月十一日，天皇主持召開御前會議。 ——“這樣的御前會議是日俄戰爭以來的第一次。”參加會議的有陸軍部和海軍部統帥，參謀本部部長、次長以及全體內閣大臣，“並特邀樞密院議長出席”。會議最終確定了《處理中國事變的根本方針》，其要點是：一、“如中國現中央政府此刻重新考慮而悔悟過來誠意求和”，則根據談判細目所開列之“日華和談條件進行談判”。二、“如中國中央政府不來求和，則今後帝國不以此政府為解決事變的對象，將扶助建立新的中國政權，與此政權簽訂調整兩國邦交關係的協定，協助新生的中國的建設。對於中國現中央政府，帝國採取的政策是設法使其崩潰，使它歸併於新的中央政權”。
第二天，日本外交次相堀內謙介會見狄克遜，表示：“希望盡全力要中國政府立即答复。如果到了十五日還沒有接到答复，日本政府將不得不保留行動的自由。日本一而再地放寬了答复的期限，但已不能再等待兩天或三天以上了。還有，'答复'二字意味著表明明確的態度或關於每個細目的明確的質問，所謂'正在研究中'的回答是不夠的。”
十三日，中國方面終於有了答复，還是正在“研究”，只不過這一次變成了“仔細研究”：
經過適當的考慮後，我們覺得，改變了的條件範圍太廣泛了。因此，中國政府希望知道這些新提出來的條件的性質和內容，以便仔細研究，再作確切的決定。
中國人的“研究”到底是什麼意思？
十五日，最後期限的最後一天，日本再次召開聯席會議，會上主戰派與主和派爭吵得更加厲害。主戰派認為，中國方面沒有誠意，哪怕不再以蔣介石為對手，拋開國民政府，也必須使用強大武力直到中國徹底屈服為止。主和派則認為，不能因為日本單方面製定的期限，“就在全國既未下定決心又無充分準備的情況下進入前途黯淡的長期戰爭”。外相廣田弘毅說：“中國方面的複文，很像是日本方面在向中國求和似的。說起來，講和的條件本應由中國方面主動提出，結果卻是雖然知道日本方面的基本內容，而中國方面並不表示意見，卻要求日本方面說明條件。我認為這只能說明中國方面沒有誠意，是在採取拖延政策。”內閣成員立即表示：外相的看法值得信賴，如果參謀本部不信任外相，那就意味著不信任政府，政府只有辭職。參謀本部考慮到“政府的垮台要在內外產生壞影響”，不得不對內閣的意見“予以默認不進行反對”。這天晚上，主戰派的強硬立場被呈奏天皇。天皇詢問了幾個很實際的問題，令主戰派與主和派同時意識到，此時，面對中國，無論戰與和，都不僅僅是軍事問題了：一、在南方還有中國的抗日軍隊，日軍打算怎麼辦呢？二、已經擁立的華北政權，是不是得由日本負擔呢？三、怎樣對付游擊隊的戰術呢？四、據說陸軍想到了“盡善處理的辦法”，是怎麼回事呢？
十六日，日本內閣發表如下聲明：“……帝國政府今後不以國民政府為對手，而期望真能與帝國政府合作的中國新政權的建立與發展，並將與此新政權調整兩國邦交，協助建設復興的新中國……”
所謂“不以國民政府為對手”，也就是說，日本不再承認國民政府是中國政府，不能代表中國的國民政府充其量只是個流亡政權而已。以後所有日中之間的外交交涉，都與國民政府無關，日本只與他們扶植的中國“新政權”即偽政權“邦交”。
十八日，日本政府命令日本駐中國大使川越茂回國。
國民政府立即結束了“研究”，命令中國駐日本大使許世英回國。同時宣布：“中國政府於任何情形之下，必竭全力維持中國領土主權與行政之完整。任何恢復和平方法，如不以此為基礎，決非中國所能忍受。同時在日軍佔領區內，如有任何非法組織竊政權者，不論對內對外當然絕對無效。”
所謂“陶德曼調停”就此結束。
中日兩國宣布斷交。
“不以國民政府為對手”——日本人不可能意識到，他們將要為自己的狂妄愚蠻付出巨大的歷史代價。
從外交上講，日本的蠻橫與野心，從其宣布退出國際聯盟時起，就引起了國際社會的一定警覺。日軍佔領中國首都南京、宣布扶植北平偽政權後，國際社會預見到暴戾的日本軍國主義之危險，英、美、法等國由此考慮：是否有必要組成一個遏制日本法西斯勢頭的聯合戰線？而日本對其始終“懷著非常畏懼之心”的蘇聯，這時候則開始公開的大規模的援助中國的抗日戰爭。南京淪陷之際，蘇聯一次給予了中國一百一十五毫米重砲八十門、七十六毫米野炮一百門、三十七毫米防坦克炮八十門、輕重機槍九百挺、驅逐機六十二架，以及大批的砲彈槍彈。同時，蘇聯還向中國派遣了直接參加作戰的飛行員、輔助指導作戰的軍事顧問和軍事教員。自一九三八年起，蘇聯向中國提供了高達兩億五千萬美元的貸款，用來購買六百架蘇聯戰機以及裝備二十個步兵師。
日本人驚呼道：“蘇聯以物質和技術援助中國與日本作戰，同時謀求加強遠東戰備從北面牽制日本，成功地把日軍戰力一分為二。換言之，日本墜入了蘇聯遠東戰略的陷阱。”
事實上，真正令日本落入最終無法掙脫的戰爭泥潭的，不是蘇聯而是中國。
平津、滬寧失陷後，中國不但沒有屈服，相反，中國政府的抗戰決心更加堅定，中國人民的抗戰意志更加堅強。中國人在聲稱他們要“研究”的時候，早已將戰爭的前景研究透徹，那就是：把日本侵略者拖入中國廣袤大地的深處，直到把這個資源匱乏的島國徹底拖垮為止。儘管在日本的政界和軍界內，始終有人力求避免被拖入曠日持久的戰爭，但就整體而言，日本人無法克服由來已久的“強烈的先入為主的蔑視中國的看法”，“輕視廣大的中國國力和覺醒了的民眾的動向”。這種“動脈硬化似的判斷”，自以為優越地秉持著“把對手看為弱者，不把對手的實力和活動當回事”的狂妄。當然，日本人也有不得不面兌現實的時候，只是他們在這種時候的思索也是日式的：“戰爭是相對的事，不可能有單人相撲。”——用不了多久，指望中國偽政權的日本人便會發現，他們進行的正是一場“單人相撲”。
從軍事角度講，中日開戰五個月來，無論對戰爭前景持何種看法，至少在一九三八年到來之際，國際社會普遍認為“日本會被中國打敗”的觀點是虛張聲勢。原因很簡單：中國經濟沒有支撐現代化戰爭的工業，中國社會不是一個現代化的社會，中國軍隊也不是一支現代化的軍隊。
中國的對手日本在戰爭爆發五個月後評述道：
中國現有軍隊共二百多個包含著許多步兵團的師，就士兵數量來說，共有二百多萬。可是，能夠稱為現代化軍隊的，且是有現代化裝備的，實在找不出一個師。中間偶然有一兩個旅或團好一些，然而嚴格的說，仍舊是落伍的。在一·二八滬戰時，雖然有一些下級幹部和士兵很勇敢，但這不過是偶然的發現，不能因此便承認他們有現代軍人的資格。中國軍隊絕對不能對外，也絕對不會對外的。縱使由拿破崙的天才來率領，也無法使用。中國軍隊完全以步兵為中心，還是殖民地的戰術，也就是南美洲的戰術。中國軍隊之弱點為天下周知：中國高級將領不學無術，妄自尊大。中國海防等於零，戰事一起，日本只要派幾條兵艦，馬上就可以封鎖中國海岸線，從汕頭、廈門、福州、寧波、上海、煙台，一直到天津，只要很少的力量，就可以佔領中國所有的經濟中心，使他毫無接濟，毫無辦法。中國毫無防空設備，只要動員令一下，日本飛機在最短期間內，即可將中國所有重要城市統統炸毀。中國陸軍毫無作戰能力，日本只要有三師人就可以到處橫行，例如熱河之役，佔領承德的不過是一連人。
這樣的評述至少在表像上是事實。
一九三八年一月，蔣介石辭去多項兼職，專任軍事委員會委員長。他飛赴河南開封前線，召集第一、第五戰區的軍事將領開會，著重總結中國軍隊作戰中的經驗和教訓。蔣介石一講便是整整兩天，儘管帶有蔣氏連篇累牘、滔滔不絕、冗長囉嗦的特質，但其家長教訓不肖子孫式的怒氣和敢於面對自身醜陋的坦蕩，使他的講話由於內含大量的社會歷史信息而值得一讀。
蔣介石首先檢查到會的高級將領是否帶著《步兵操典》和《指揮綱要》，結果數十位高級將領中，只有兩人帶著《步兵操典》，而帶著《指揮綱要》的一個也沒有。 “像這樣統兵作戰的基本書籍，大家都不隨身攜帶，隨時研究運用，憑什麼來作戰，憑什麼來抵抗擁有新式武器的敵人？”從這個問題引申開去，蔣介石一口氣列出了中國絕大多數部隊的十二項致命弱點：
一、高級將領缺乏智慧的優良技能與艱苦卓絕的精神，下級官兵缺少新戰術的訓練。
二、軍紀蕩然。作為一支軍隊這是第一大禍害！
三、一般缺乏敵愾之心，尤以高級軍官為甚！
四、缺乏協同作戰的精神和技術。
五、高級將領缺少犧牲決心。
六、長官不知激發廉恥心，明恥教戰。
七、命令不能貫徹。
八、懶惰疏忽，不能判明敵情真相，不檢討戰鬥經過、命令進退，掉以輕心。
九、高級將領缺乏堅決的自信心，長官不能和士兵同甘共苦。
十、武器彈藥裝具，專靠後方接濟，不知在前方就的補充，因糧於敵。
十一、缺乏“私密習慣”——電信管理使用不嚴密，每每容易洩漏軍情。
十二、一般部隊缺乏政治訓練。
然後，蔣介石以最嚴厲的言辭，開始抨擊國民政府管轄下的軍隊之最頑固的弊端，即地方軍閥部隊為保存一己實力而置國家危亡於不顧：
……現在我們喪失了許多土地，犧牲了許多生命財產，並不是敵人已經支付了絕大的代價，硬打進來的，而是我們高級將領中還有觀望不前，圖保實力，不努力，不合作，所以敵人才敢進來！你們試們心自問，就知道我這句話，並不冤枉大家！老實說，只要我們不後退，敵人必不敢前進；只要我們不放棄陣地，敵人必不能侵占我國土。如果我們都能如郝軍長夢齡、佟副軍長麟閣、劉師長家祺、趙師長登禹等各先烈，以身殉國，發揚革命軍有敵無我有我無敵的攻擊精神，無論敵人如何頑強，武器如何厲害，我們都可以摧毀他消滅他……因此，我們又要反省到過去幾個月的失敗……不怪我們下級的官兵不肯犧牲，而全在我們的高級將領無決心，或是有了決心但決心不夠。換句話說，就是我們高級將領中間，懷著一種保存實力的卑劣心理，不顧國家的存亡，不顧民族的生死，只是望風退卻，帶了部隊步步後撤。試問我們國家喪失瞭如此多的土地、如此多的生命財產，而我們的部隊依然存在，我們撫躬自問，如何對得起國家，如何對得起祖先！我們保存了許多部隊又有何用？如此按兵不戰，擁兵自衛，將來國家亡了，我們豈不同歸於盡？像現在東四省的偽軍，被日本人強迫到山西、上海來打自己的同胞，如果你怕死，你不打，他就要在你背後用機關槍先打死你本人，還要殺盡你全家……當此國家民族生死存亡關頭，我們如再不剷除這種保全實力的落伍思想，洗刷這種卑劣無恥的亡國心理，還要擁兵自衛，就一定會蹈著東四省偽軍的覆轍，要被敵人壓迫著來毀滅我們祖宗的廬墓，殘殺我們自己的同胞，絕滅我們子孫的生命，真是生無立足之地，死無葬身之所，比奴隸牛馬還不如了！
蔣介石當場宣布了“十殺令”：
一、輕傷自退者監禁！
二、假傷圖逃者殺！
三、無令擅退者殺！
四、擅入民房者殺！
五、強買勒索者殺！
六、調戲婦女者殺！
七、報告不實者殺！
八、造謠惑眾，擾亂秩序者殺！
九、擁兵不進，奉令不力者殺！
十、坐視友軍不加協助者殺！
蔣介石的憤怒和焦灼出自這樣一個現實：在中原地帶面臨大戰之際，中國軍隊中武器裝備與作戰能力稍好的中央軍，多數部隊因在淞滬和南京的作戰中損傷嚴重而亟需整補，此刻在中原戰場上除了依靠地方軍閥的部隊他已無兵可調。
欲得天下，逐鹿中原。
中原自古便是中國兵家的必爭之地。
南京陷落後，停留在津浦路北段的日軍與停留在滬寧地區的日軍，被中原所分隔。於是，日軍急欲打通津浦路——華北的日軍沿津浦路南下，南京的日軍沿津浦路北上——以徹底貫通中原，使日軍能夠自如地迴旋南北、來去東西。
津浦路沿線，中原地區的要點是徐州。
徐州位於黃淮之間，為北南向的津浦鐵路與東西向的隴海鐵路線的樞紐，據守魯豫皖蘇四省之要衝，實為淮北重鎮。除東南為山地外，徐州三面均為平原，淮河支流密布其間，大運河縱貫南北。這個西楚霸王項羽的建都之地，幾乎無險可守，但秦以來卻發生成規模的戰爭數百次，只因若“覬覦蘇皖而舉兵南下者，或圖保江淮而進窺魯燕者”，唯“以徐州得失而定勝負”之故。就中國軍隊而言，於南北走向上，控制徐州可使平津與南京兩地的日軍隔絕；於東西走向上，可使從東海登陸的日軍無法沿隴海路西進而“屏蔽華中”。就日本軍隊而言，奪取徐州便可將南北戰場連成一體，中國的東南部便盡在囊中；同時，沿隴海路可於鄭州折南，再循平漢路“進迫武漢”，更可向西“直趨西安”。
迫使中國屈服的談判中止後，日本不得不面對擴大戰爭規模的抉擇。一九三八年一月十二日，日本內閣首相近衛文麿發表施政演說，主張為使中國徹底屈服必須建立國家總體戰體制。二月，日軍參謀本部製訂了《昭和軍制建設綱要》，將總體戰設想具體闡釋為“傾國家的權力遂行戰爭”。三月，日本通過了《國家總動員法》，要求鑑於“中國事變的長期持久性”，特別是蘇聯已與中國合作的“動向”，日本陸軍必須具有六十個師團的兵備。四月，日本公佈撥款四十八億日元作為臨時軍費預算，這使得一九三八年日本的戰爭預算高達八十億日元。
就戰爭本身的進程而言，日本方面最感困難的是兵力不足。日軍參謀本部雖然意識到，為應對戰事確需六十個師團的兵備，但也同時明白“國力、經濟力量、科學技術力量以及乾部數量的不相稱”。特別是新組建的部隊，必要經過徵召、訓練、演練、實戰等全過程，才能在作戰技能與軍事素質上確保軍令的達成。因此，參謀本部的結論是“困難極大”。這種看法，導致了至少在一九三八年初，日軍大本營與侵華日軍將領間的爭執。爭執的焦點是：在中國戰場上是否一鼓作氣地打下去？
“華北方面軍自昭和十二年（一九三七年）底以來，曾多次向中央闡述，為使華北、華中連結起來，進行徐州作戰以及對武漢之敵施加威壓，從而佔領黃河右岸據點（鄭州、開封等）的重要性。”而東京大本營則認為：在確保編成六個新的師團前，“絕對不進行新的作戰”，只以“增強態勢為原則”；待兵力整備完畢後，“進行徹底的積極作戰，而求得一舉解決事變”。
……沿津浦線連結南北的作戰，現地軍，尤其是華北方面軍提出這樣強烈的請求，而梅津（梅津美治郎）陸軍次官從新興政權的南北合流及其他政治謀略的理由出發也極力主張。但是，從解決事變這一大局目的出發，進行這樣一次作戰，即使規模再小，即使作戰能成功，然而為確保該地區的安定，估計至少也得要四個師團，因此才死了心……在黃河南岸的鄭州、開封，為建立立足點而作戰，為使將來的漢口有伸縮餘地而作戰，華北方面軍有此迫切的希望，但因確保黃河以北，尤其是山西的治安，需要相當的兵力，而未被採納……為威脅漢口的辦法，海軍方面希望攻占安慶，以便使用其飛機場，對中國內地進行轟炸。陸軍省內對此也表示支持。但考慮攻占後，安慶、蕪湖的連接也需要相當的兵力，亦被停止。
華北方面軍司令官寺內壽一對東京的審慎十分不滿，指示方面軍作戰課課長河邊正三致電參謀本部作戰課課長河邊虎四郎據理力爭：
在徐州東西兩側的隴海路北面，其中山東湖沼地帶的西面地區，集結著還未曾受過我軍大的打擊的十數万中國軍隊，並以此為根據地，經常派出便衣隊潛入我第一線後方，到處襲擊。最近幾乎連夜遭受襲擊的第一線，漸有疲於奔命之勢。對此，從軍自衛觀點出發，在適當時機對上述敵根據地給以痛擊很有必要。尤其在濟南南面地區，我們認為，情況已到不得不超越現在佔領線進行反擊作戰的境地。關於此點，請予留有行動餘地。
東京的參謀本部很清楚，所謂“連夜遭受襲擊”不過是華北方面軍在編造理由，因此回電的口氣相當嚴厲：
由於沒有鮮明的天然屏障可依，又面對數量上佔極大優勢的殘敗之敵，出現如貴電所述情況，不難想像。然而，我方應考慮的是，不要被敵誘發導致戰局擴大，兵力全被牽制，而妨害國軍（國內軍隊）全面整理整頓，以適應下步……在現在佔據地區以南，即使說是自衛上的攻勢行動，其結果擴大了佔領地區和牽制住更多的兵力，這樣依照中央既定的大方針，是絕對不能批准的，請予理解。
但是，中國戰場上的日軍將領決定不理睬大本營持有何種意見。佔領南京的華中方面軍認為，他們有能力投入兵力沿津浦路北上，配合華北日軍作戰；華北方面軍更是急切希圖南下，與華中方面軍在津浦路上會師。 ——侵華日軍將領固執地認為：只要加大打擊力度，消滅中國軍隊的主力，南北日軍會師之日便是中國政府屈服之時。
繼續向南作戰的命令不顧一切地下達了。
一九三八年初，日軍華北方面軍的作戰序列是：
司令官：寺內壽一大將。
第一軍，司令官香月清司中將。轄第十四師團，師團長土肥原賢二中將；第二十師團，師團長川岸文三郎中將；第一〇八師團，師團長下元熊彌中將；第一〇九師團，師團長山岡重原中將；第四、第五、第九獨立機關槍營；第一、第五獨立輕型裝甲車連；第二坦克營；第一、第三獨立山炮團；第二野戰重砲旅；第八獨立野戰重砲團；第三、第五迫擊砲營。
第二軍，司令官西尾壽造中將。轄第五師團，師團長板垣徵四郎中將；第十師團，師團長磯谷廉介中將；第六、第十二獨立機關槍營；第十、第十二獨立輕型裝甲車連；第一野戰重砲旅。
華北方面軍直屬部隊：第十六師團，師團長中島今朝吾中將；第一一四師團，師團長末松茂治中將；中國駐屯兵團，司令官山下奉文中將；第三、第四、第五獨立混成旅。
臨時航空兵團，司令官德川好敏中將。轄第一、第四飛行團；第三、第九獨立飛行中隊；野戰高砲隊六隊。
為防止日軍佔領徐州縱貫中原，打通中國東部最重要的津浦鐵路線，中國方面還在淞滬會戰時就成立了第五戰區，以期專門負責魯南與蘇北地區的戰事。第五戰區，司令長官蔣介石兼任，副司令長官韓復榘。但是，因為淞滬戰事危急，地域內的部隊奉命馳援，第五戰區在成立的當日又被撤銷。直到十月十六日，第五戰區再次成立，司令長官為李宗仁。第五戰區所轄地域：北至濟南黃河南岸，南至浦口長江北岸，東自長江吳淞口向北延伸至黃河口海岸。
對於徐州方向的作戰，蔣介石是從保衛武漢的角度考慮的：“現在我軍戰略，就是東面要保持津浦鐵路，北面要保持道清（道口至清化）鐵路，來鞏固武漢核心的基礎……我軍要鞏固這兩條鐵路，一定不要呆守，必須積極對威脅我軍之敵採取攻勢，時刻保持主動地位，來攻擊敵人，陷敵人於被動。如此我軍才能固守，才能藉津浦、道清兩鐵路來屏障武漢。”基於此，國民政府軍事委員會制訂了詳盡的作戰指導方案，其主旨是：“國軍主力控制武漢外圍及豫皖邊區，積極整補，由華北及江南抽出有力一部，加強魯中及淮南，積極襲擾，誘敵主力於津浦鐵路方面，以遲滯敵人之過江西進；並廣泛發動華北游擊戰，牽制、消耗敵人，妨害其南渡黃河，直衝武漢。”平漢路方向的第一戰區，蘇浙方向的第三戰區，兩個戰區內各有部隊被抽調至第五戰區。
中國第五戰區作戰序列：
司令長官李宗仁，參謀長徐祖貽。
第三集團軍，總司令孫桐萱。下轄：
第十二軍，軍長孫桐萱（兼）。轄第二十師，師長孫桐萱（兼）；第二十二師，師長谷良民；第八十一師，師長展書堂；第二十八旅（手槍旅），旅長吳化文。
第五十五軍，軍長曹福林。轄第二十九師，師長曹福林（兼）；第七十四師，師長李漢章。
第二十四集團軍，總司令韓德勤。下轄：
第五十七軍，軍長繆澂流。轄第一一一師，師長常恩多；第一一二師，師長霍守義。
第八十九軍，軍長韓德勤（兼）。轄第三十三師，師長韓德勤（兼）；第一一七師，師長李守維。
第二十二集團軍，總司令鄧錫侯（後為孫震）。下轄：
第四十一軍，軍長孫震。轄第一二二師，師長王銘章；第一二四師，師長稅梯青（代）。
第四十五軍，軍長陳鼎勳。轄第一二五師，師長王士俊；第一二七師，師長陳離。
第三軍團，軍團長龐炳勳。下轄：
第四十軍，軍長龐炳勳（兼）。轄第三十九師，師長馬法五。
第十一集團軍，總司令李品仙。下轄：
第三十一軍，軍長劉士毅。轄第一三一師，師長覃連芳；第一三五師，師長蘇祖馨；第一三八師，師長莫德宏。
第二十一集團軍，總司令廖磊。下轄：
第七軍，軍長周祖晃。轄第一七〇師，師長徐啟明；第一七一師，師長楊俊昌；第一七二師，師長程樹分。
第四十八軍，軍長韋雲淞。轄第一七三師，師長賀維珍；第一七四師，師長張光瑋；第一七六師，師長區壽年。
第二十七軍團，軍團長張自忠。下轄：
第五十九軍，軍長張自忠（兼）。轄第三十八師，師長黃維綱；第一八〇師，師長劉振三。
第五十一軍，軍長於學忠。轄第一一三師，師長周先烈；第一一四師，師長牟中珩。
第二十七集團軍，總司令楊森。下轄：
第二十軍，軍長楊森（兼）。轄第一三三師，師長楊漢域；第一三四師，師長楊漢忠。
中國軍隊第五戰區共有二十九個師附一個旅，兵力共約二十八萬八千人。
在組成第五戰區的部隊裡，鄧錫侯、楊森部屬川軍，韓德勤的部隊由江蘇保安隊改編，龐炳勳、張自忠部屬西北軍，李品仙、廖磊部是桂軍，於學忠部屬原東北軍，孫桐萱部屬山東部隊——以上各路地方部隊統由桂軍首領李宗仁指揮。李宗仁對此牢騷滿腹：“這些部隊均久被中央列為'雜牌部隊'，蓄意加以淘汰之不暇，更談不到糧餉和械彈的補充。因此，這些軍隊的兵額都不足，訓練和士氣也非上乘，與當時在上海作戰的部隊相比擬，這些部隊實在是三四等的貨色……”而雜牌軍的將領們內心也是惶恐不安：“一面激於民族爭生存的義憤，都想和日軍一拼；一面卻顧慮部隊作戰損失之後，不僅得不到中央器械兵員的補充，恐還要被申斥作戰不力，甚或撤職查辦，並將其部隊番號撤銷，成為光桿一根，即無以謀生。因此都懷著沉重惶惑的心情。”
日軍華北方面軍和華中方面軍決定以既成事實迫使東京大本營屈從他們的意願。他們的戰略設想是：華北方面軍的第十師團和第五師團，分別沿著津浦鐵路和濰台公路（濰縣至台兒莊）南下，為主攻方向；華中方面軍的第九師團沿津浦路，佐藤支隊（隸屬第一〇—師團第一〇—旅團）沿運河北上，為牽制方向。同時，華北方面軍第十四師團由濮陽南渡黃河經魯西南，再向西直趨開封和鄭州；華中方面軍第十三師團北渡淮河後直趨豫皖交界處的永城和黃口，截斷隴海鐵路。
第五戰區根據軍事委員會“對由津浦路南段前進之敵，須固守徐蚌兩要地，非有命令不得撤退”的命令，於二月三日下達了作戰令：“戰區決對津浦南段之敵，拒止於淮河以南地區，由其側方連續予以打擊，漸次驅除肅清之，同時鞏固魯南山地。對津浦北段及隴海東段取側擊之勢，牽制敵之南下或西上，以拱衛徐州。”
中國軍隊在津浦路南北兩端同時進行的作戰，拉開了徐州會戰的序幕。
戰鬥首先從津浦路南段爆發的原因，來自日軍佔領南京後的狂妄。當時，津浦路南段直到長江浦口，幾乎沒有中國軍隊防守，日軍以為這裡的中國軍隊已被消滅，沿津浦路北上僅是一次行軍而已。
李宗仁雖有兵力匱乏之憂，但他對津浦路防禦的認識是清醒的。他認為，日軍攻占南京後，之所以沒有西進武漢，就是因為受到北面津浦路方向的牽制。因此，日軍必會首先消除側背的威脅，那麼津浦路防禦實際上是為保衛武漢贏得時間。
李宗仁將劉士毅的第三十一軍調到了津浦路南段的滁州、明光一線阻擊日軍。這一線，明光的西北面是津浦路上的蚌埠，滁州的南面就是長江北岸的浦口了。中國陸軍第三十一軍隸屬於第十一集團軍，是桂係部隊。第十一集團軍原本還轄第七軍和第四十八軍，但這兩個軍投入淞滬戰場後被編為第二十一集團軍，因此第十一集團軍總司令李品仙手裡只有第三十一軍了。李品仙是廣西人，畢業於保定軍校。早年追隨湘軍將領唐生智，參加過北伐戰爭。唐生智在寧漢交戰中與李宗仁部打仗，敗北後李品仙接受了桂系改編。但是，蔣桂戰爭隨後爆發，他又重回唐生智麾下。接著蔣介石與唐生智又打了起來，唐生智敗了，他應李宗仁之邀再次加入桂系。因此，儘管李品仙不是李宗仁的嫡系，但也算得上是桂系干將，屬於李宗仁的“親兵”。
桂軍以死打硬拼聞名。
當日軍第十三師團沿津浦路開始向北推進時，受到了中國陸軍第三十一軍的頑強阻擊。第三十一軍官兵利用有利地形死守，同時不斷派出小股部隊實施襲擾性反擊，竟與兵力多於自己數倍的日軍糾纏了一個多月。日軍得知當面僅僅是一股廣西部隊時，大感意外，認為被這樣一群武器簡陋的廣西人阻擊月餘，簡直是日本陸軍的恥辱。
李宗仁對桂軍的表現非常滿意，命令第三十一軍“始終釘住津浦線，使敵軍不能北進”。
但是，當日軍從南京調來坦克和重砲後，第三十一軍頂不住了，明光很快失守。接著，日軍第十三師團兵分三路同時推進：第二十六旅團從明光北渡池河，沿津浦路向蚌埠推進；第十三師團主力從滁縣出發，北渡池河後經由鳳陽向蚌埠推進；第六十五聯隊從浦口以西的全椒出發，迂迴津浦路西側掩護主力北上。後撤中的中國軍隊第三十一軍奉命在蚌埠西面的鐵路一帶側擊日軍，並以一部兵力於戰場正面的池河與淮河間逐次抵抗以遲滯日軍的推進。但是，三路日軍協同發起的攻勢極其凶猛，二月一日日軍佔領臨淮關，二日占領蚌埠、鳳陽和定遠，其前鋒已抵進淮河南岸。九日，一部日軍強渡了淮河。
如果讓日軍主力渡過淮河，津浦路南段的中國軍隊將無險可守。
李宗仁將防守淮河的任務交給了於學忠的第五十一軍。
於學忠，山東蓬萊人。早年在北洋軍中供職，是直系軍閥吳佩孚的愛將。吳佩孚在北伐戰爭中兵敗後，於學忠追隨張學良的奉系，因屢建戰功深受信任和重用。在河北省府主席任上，面對日本人的勸降利誘不為所動，多次遭到未遂暗殺。被排擠出華北後，他率第五十一軍進入陝西和甘肅。及至中日全面戰爭爆發，他的部隊被調往江蘇淮陰一帶，整編為第一一三師和第一一四師，駐防青島。日軍逼近黃河北岸，青島失去防禦意義，他又奉命率部轉向津浦路方向。於學忠久經沙場，作風硬朗，他的第五十一軍雖僅有兩師，但東北軍官兵因家破人亡戰鬥意志格外強勁。
於學忠率部在五河至蚌埠間佈防，這是一條東西走向的防線，所扼守的淮河河段正對著北上的日軍。官兵們還在趕修工事的時候，就與攻占臨淮關後企圖強渡淮河的日軍接上了火，激戰四小時後，強渡的日軍被第一一四師官兵擊退。之前日軍佔領蚌埠時，中國守軍倉促間炸毀了淮河大橋，但沒能毀壞停泊在淮河南岸的數百艘民船。二月三日，北上日軍利用搶來的民船和自帶的橡皮艇，在飛機和火砲的掩護下再次強渡淮河，遭到第一一四師第三四二旅的頑強阻擊，被打死在淮河中的日軍不下三四百人，但仍有一部分日軍渡過了淮河。四日早晨，第一一三師趕到戰場，與第一一四師一起發起反擊，硬將渡過淮河的那部分日軍趕回了南岸。但是，日軍第二十六旅團一部繞道蚌埠以西渡河成功，攻占了懷遠並進抵渦河。於學忠緊急調整部署，命令第一一三師和安徽保安二團防守小蚌埠鎮直至懷遠、渦河一線陣地，命令第一一四師在第一一三師的左翼防守臨淮關北岸至西門渡的陣地。
小蚌埠鎮位於蚌埠以北的淮河北岸。八日，二十餘架日軍戰機密集地轟炸了小蚌埠鎮，然後千餘日軍步兵在猛烈的砲火準備後，再次強渡淮河。第一一三師第三三七旅官兵拼命抗擊，兩次擊退強渡的日軍。日軍無奈，實施夜間強渡，一度登上淮河北岸，攻占了小蚌埠鎮。第一師師長周先烈命令六七四團團長梁忠武率部反擊，雙方激戰至凌晨一時，六七四團官兵將日軍擊退，奪回小蚌埠鎮。十日拂曉，日軍再次發動攻擊，六七四團晝夜戰鬥傷亡過半，小蚌埠鎮陣地失守。軍長於學忠親臨前線，命令第三三九旅組織敢死隊反擊。旅長竇光殿親率敢死隊身先士卒，東北軍官兵即刻與日軍扭打成一團，慘烈的肉搏戰持續了數個小時，日軍的屍體橫陳於小蚌埠鎮內，被趕下淮河淹死的日軍也在數百人以上。小蚌埠鎮反擊戰進行的同時，數千日軍從東面的臨淮關強行渡河，一度攻占了淮河北岸的幾個村莊，第一一四師師長牟中珩、第三四二旅旅長李雨霖率部發起反擊，將失守的村莊一一奪回。十一日，已堅守陣地近十個晝夜的中國守軍迎來了戰鬥最血腥的一天，日軍的飛機、重砲和坦克持續轟炸和轟擊，第五十一軍的防禦陣地多處被突破，嚴重的傷亡致使預備隊也使用殆盡，多天未食未眠的第五十一軍官兵數次發起絕地反擊，僅小蚌埠鎮失而復得而復失竟達五次之多。最終，小蚌埠鎮落入日軍之手。
於學忠在陣地被撕破之際，將渾身硝煙的指揮員們召集到一起，他說，東北淪喪之痛刻在咱們心頭，想生存下去就要與日軍血戰到底。我們下定必死的決心，我們可以都死光，但是必須讓日軍付出代價！
十三日，第五十一軍展開了全線決死反擊。於學忠軍長和兩位師長及四位旅長全部上了前沿。小蚌埠鎮方向的第一一三師與日軍死戰不休，殘酷的拉鋸戰進行了八個小時，雙方仍處於膠著狀態。臨淮關方向的第一一四師，付出巨大傷亡奪回了部分陣地，但當日軍後續渡河部隊投入戰場後，第一一四師傷亡已達兩千多人，淮河沿岸陣地多處失守。
危急時刻，又一支中國軍隊趕到了戰場。
張自忠來了。
張自忠的第五十九軍，剛剛轉隸第五戰區，便接到了李宗仁讓他們接替第五十一軍防禦淮河的命令。張自忠立即率部而上，將傷亡慘重的第五十一軍替換下來，在防禦線上布防了五十九軍第三十八師和第一八〇師。
為了冊應張自忠部，李宗仁部署了一系列的反擊行動：韋雲淞的第四十八軍在蚌埠以南固守爐橋、洛河一線；劉士毅的第三十一軍在淮南東北方向猛烈圍攻上窯的日軍；周祖晃的第七軍在津浦路以西向池河、定遠的日軍發動側擊。同時，在李宗仁的請求下，中國空軍轟炸了蚌埠至臨淮關的日軍陣地。
位於淮河戰場正面的張自忠認為，與其死守不如全力反擊。
張自忠對他的第五十九軍官兵只說了一句話：“誰也不許後退，跟著我拼命保國。”
由於盧溝橋事變時在天津和北平的表現，張自忠始終在國人的譴責和自我的負疚中備受折磨。北平和天津迅速淪陷後，第五十九軍官兵也與張自忠一樣承受著全國輿論的壓力，整個部隊的心氣猶如即將爆發的火山。張自忠命令兩個師各組一個加強團，以決死的意志向淮河全線發動反擊。十五日，反擊作戰開始，兩個加強團於左右兩翼向當面日軍撲了上去。強渡成功的日軍由於主力已經到達，沒有預料到中國軍隊能夠實施反擊。在第五十九軍官兵的猛烈衝擊下，日軍陣地出現動搖，開始後退。戰鬥到十八日，張自忠部依舊在不分晝夜地猛打猛衝，直至把日軍趕回淮河南岸。二十日，第五十九軍官兵終於衝進了小蚌埠鎮。 ——沿津浦路南段北上的日軍，經過二十多天的苦戰，付出巨大代價後渡過了淮河，自認為當面的中國軍隊已被打垮，可誰知又被趕回了淮河南岸。
中日兩軍再次於淮河兩岸形成對峙。
淮河阻擊戰，面對日軍一個師團另附三個聯隊、七個大隊的步兵，加上七個中隊的航空兵、工兵、砲兵、裝甲兵和鐵道兵的聯合攻擊，中國軍隊中的桂軍、東北軍、西北軍輪番上陣，讓日軍付出了傷亡三千餘人的代價，最終未能突破淮河防線北進，這不能不說是中日開戰以來令人振奮的一次勝利。
日軍南北夾擊受挫後，改變戰略為“南守北攻”，以圖沿津浦路北段快速向南推進，津浦路北段局勢因此嚴峻起來。
危機是從大半個山東失守開始的。
津浦路北段的防守，由山東省府主席韓復榘負責。
韓復榘，河北霸縣人，生於一八九一年。早年入馮玉祥部，因作戰勇敢，從排長一路升遷至軍長。一九二九年，馮玉祥策劃反蔣，他暗中背叛老上級投靠了蔣介石；但在之後的中原大戰中，“舊情難忘”的他又聲明只打閻錫山不打馮玉祥。閻錫山、馮玉祥聯合反蔣失敗，蔣介石任命他為第一軍團總指揮並負責山東防務。韓復榘當上了山東省政府主席，並且一干就是八年。與山西的閻錫山一樣，除了在反共立場上與蔣介石保持一致外，他拒絕國民政府對他的山東地盤的任何干涉，在這點上他與蔣介石勢不兩立。省府裡有個年輕的辦事員，因在濟南城內貼標語而被捕。提審的時候，韓復榘拿著寫有“共產黨萬歲”和“打倒蔣介石”的標語看了又看，然後說：“共產黨萬不萬歲我不管，打倒蔣介石是可以的。”韓復榘寫下“仍復原職，月薪四十元”的判決後，命令將這個青年當堂釋放。他接收了國民政府在山東設立的稅務機關，還把國民政府任命的鹽運使、菸酒印花稅局局長、稅警局局長和中央財政特派員等全都趕走了，甚至把國民黨山東省黨務整理委員會主任暗殺了。兩廣事變時他支持李宗仁和陳濟棠反蔣，西安事變時他稱張學良所為乃英明壯舉。 ——他自認為是山東地盤上說一不二的皇上，認為舉國之內能夠威脅他“皇位”的人，既不是共產黨也不是各路軍閥，而是那個居心叵測的蔣介石。
盧溝橋事變後，蔣介石對韓復榘充滿擔憂。如果韓復榘動搖，北平的局面將蔓延至山東；而如果韓復榘堅決抗日，不但可以控制局勢的惡化，還能對宋哲元部產生影響。沒有確鑿史據證明韓復榘是個變節分子。當日本人企圖說服他和宋哲元、閻錫山脫離國民政府搞“五省市自治”時，韓復榘拒絕了日本人讓他宣布山東獨立的要求。同時，他以各種藉口拒絕日本人進入山東，無論是駐軍還是藉道通過統統不行，為此他早早地就把黃河大鐵橋炸了。只是，韓復榘此舉更多的還是為了保住自己的地盤。他告訴蔣介石“我決不能和日本人搞在一塊”，他還告訴蔣介石“日本不讓山東駐中央軍”。韓復榘無法排解的憂慮是：即使在全國一致抗戰的情況下，“蔣介石也有先犧牲他的詭計”。這讓他不得不在日本人與蔣介石之間的縫隙中謀求自保。日軍開始攻擊津浦路北段後，李宗仁親赴濟南與韓復榘徹夜長談，詳細闡述國內形勢以及贏得戰爭勝利的趨勢，力圖使韓復榘認識到“抗戰是長期的，是有前途的，漢奸是當不得的”。韓復榘自然不會成為日本人的漢奸，但是他從“抗戰是長期的”的觀點引申而出的結論，卻是自己的部隊“斷不可在長期抗戰的局面下”短時間內“被消耗了”。於是，保存實力成為他的“第一要務”。部下提醒他說，現在是全國傾力抗戰，部隊有損失中央會補充，川軍和滇軍都已開到徐州，我們就在山東怎麼可以按兵不動？韓復榘的回答是：“我們要最後參戰。”——韓復榘無法擺脫認識上致命的局限，沒有認識到：他和他的軍隊面對的敵人，不是與他搶占地盤的哪路軍閥，也不是總想收編他的部隊的蔣介石，而是日本侵略者。
基於保存實力的原則，當停留在河北滄州的日軍開始南下，並於山東淄博以西的周村渡過黃河後，韓復榘意識到日軍沿膠濟鐵路即刻便可西進濟南，於是下令從黃河南岸撤退軍隊並向河南轉移財產。李宗仁得知後，一再致電，要求韓復榘遵守軍事委員會“各戰區守土有責，不得退入其他戰區”的命令，絕對不能“把後方放在第五戰區的範圍以外”。韓復榘在李宗仁的電文上批复：“現在全面抗戰，何分彼此。”李宗仁只好報告蔣介石。蔣介石嚴令韓復榘不得放棄濟南，“萬勿使倭寇垂手而得全魯”。豈知韓復榘此時已經逃到了泰安。李宗仁只好要求韓復榘死守泰安，韓復榘的回复說，蔣介石連南京都不守，有什麼理由讓我守泰安？韓復榘認為，只要有槍有錢，“到哪裡都可自立”，因此撤離濟南前下令把民生銀行和金庫裡的一萬五千兩黃金、三萬兩白銀以及公私輜重全部裝車運走。韓復榘的四個軍不戰而退，致使千餘日軍未費一槍一彈進占濟南。退至泰安後，韓復榘認為自己仍處在沿津浦路南下的日軍攻擊線上，遂又命令部隊放棄泰安退至濟寧。軍事委員會軍令部命令他死守濟寧和大運河，李宗仁在電報裡更是用了幾近懇求的口氣要求他的部隊停住，哪怕打一仗。韓復榘回電李宗仁：“榘不能守濟寧，如榘不能固守濟南然。”李宗仁怒不可遏，斥責韓復榘就從沒有過守衛濟南的任何意願！而韓復榘對於他放棄濟南的說辭是：“現在不是千餘敵人過河（黃河）的問題，而是要考慮保存現有實力伺機反攻的戰略目的。”韓復榘的主力部隊以及所有輜重，一直退到了魯豫交界處的鉅野和曹縣。
一九三八年一月十一日，日軍佔領濟寧城，逼近徐州。
在短短的二十多天內，韓復榘連退數百里，輕易丟掉了黃河、濟南、泰安、曲阜、兗州、濟寧乃至徐州以北的運河防線，致使日軍僅用一個半師團的兵力便佔領了大半個山東，導致津浦路北段門戶大開，徐州以及隴海鐵路暴露在日軍的直接威脅下，中國第五戰區的作戰部署完全被打亂。蔣介石抵達開封召集高級將領會議時，韓復榘雖心有不安，但猶豫再三後還是前去參加了。蔣介石在講話中把憤怒一股腦地傾洩到韓復榘身上：“有些將領，把國家的軍隊視作個人私有財產，自從抗戰開始以來，一味保存實力，不肯抗擊敵人，只顧擁兵自重，不管國家存亡，不聽命令，自由行動，哪里安全就向哪裡撤退逃跑。試問，這樣如何了局？”韓復榘當面頂撞：“山東丟失是我的責任，南京丟失該誰負責任？”蔣介石依舊正顏厲色道：“我問的是山東，不是問的南京！”韓復榘被坐在旁邊的第一戰區副司令長官劉峙勸出會場，誰知出了會場即被逮捕，之後被押解到武昌。韓復榘在高級軍事法庭上申辯，他的部隊沒有任何重武器，一個師也頂不住日軍一個團的火力；他若固守濟南，將受到南北日軍的兩面夾擊；他不帶走資產錢物，留下也是要被日本人所用。但是，面對國土未戰而失的事實，任何狡辯都已無濟於事。一月二十四日晚上七時，韓復榘被槍斃：
有個持槍的士兵到韓的房裡說：“何審判長（何應欽）請你談話，請跟我走。”韓走出來，持槍士兵跟在後頭。剛下樓還未到底，只見院內許多持槍士兵，戒備森嚴，韓已知情況不好，就說：“我腳上的鞋太小了，等我回去換一雙鞋。”他剛要返身，後邊持槍士兵便開槍把韓打死了。
韓復榘的頭部中了七彈。
這是全面抗戰開始以來被處決的第一個中國省政府主席。
韓復榘與那些參加偽政權的中國高官以及充當偽軍的中國將領不同，他沒有投敵變節。但是，縱使有千百條理由，在民族危亡之際違抗軍令和擁兵自保，對於中國軍人來講都是不可容忍的。尤其是面對武力強大的侵略者，必須具有戰至彈盡糧絕、傷亡殆盡的決心和意志，否則無以保證民族生存的底線。韓復榘事件，無疑是蔣介石對那些畏縮避戰的高級將領的一次嚴重警告：國難當頭，不盡抗戰守土之責的軍人，軍法面前絕無寬貸。
津浦路北段的危機因山東失守而更加嚴重。
二月上旬，津浦路南段正在激戰之時，為扭轉因韓復榘避戰而造成的日軍大舉南下的態勢，第五戰區決定採取主動進攻的策略，命令第三集團軍向濟寧和汶上、第二十二集團軍向鄒縣、第三軍團向蒙陰發動攻勢作戰。
韓復榘被處決後，第三集團軍總司令由孫桐萱代理。二月十日，孫桐萱下令：曹福林的第五十五軍由金鄉向北面的濟寧南關發起進攻，谷良民的第二十二師由定陶經鉅野、嘉祥迂迴濟寧以北，攻擊濟寧北門，協同第五十五軍收復濟寧。同時命令第八十一師對汶上的日軍進行襲擊，防止其南下增援濟寧。十二日，攻勢作戰開始。擔負主攻任務的第五十五軍，僅以兩個團各一部的兵力，對濟寧火車站等地進行了騷擾式襲擊，被日軍打回來後，主力部隊再也沒有任何行動。而擔負助攻任務第二十二師卻仍在執行命令。部隊抵達運河西岸後，以第六十四旅為主攻，第六十六旅為預備隊，謀劃的奪城方案是：小分隊化裝成百姓潛入城內，待城外發起攻擊後裡應外合。濟寧城門緊閉，日軍戒備森嚴，小分隊無法入城。第六十四旅旅長沒有猶豫，立即命令位於北關的兩個團攀城強攻。兩個團的官兵扛著長梯分路攀城，儘管傷亡甚重，但一波接一波地往上爬，終於突進去九個連。防守濟寧的日軍約有三千人，中國官兵突進來後他們緊急求援。濟寧城內的激烈巷戰持續了一天一夜，日軍一千五百人的增援部隊到達。城里城外的日軍聯合攻擊，突入濟寧的中國官兵孤軍奮戰，至十四日拂曉，九個連的官兵全部戰死。第六十四旅殘部在當地百姓的幫助下向運河東岸轉移，掩護撤退的後衛營營長陣亡，負責接應的第六十六旅旅長薛明亮也中彈負傷。在濟寧的北面，攻擊汶上的第八十一師遭遇守城日軍與從東、南兩面增援而來的日軍的圍攻，部隊因傷亡巨大僅在戰場上堅持了一天便撤退下來。第三集團軍反擊濟寧城的兵力，實際上只有一個旅，武器和兵力均不佔優勢，儘管九個連的官兵誓死血拼，但全軍未能達成第五戰區賦予的戰略企圖。
在濟寧東面的鄒縣，孫震的第二十二集團軍同時向日軍發起了攻擊。第二十二集團軍是川軍，韓復榘擅自撤退時，該部被從河南商丘調來牽制日軍南下，其主力集結在鄒縣附近。川軍官兵剛叢山西前線下來，部隊大量減員且武器簡陋，均未來得及補充，所以無力支撐大規模的反擊作戰。集團軍只好命令第三七三旅在鄒縣以南攻擊位於兩下店的日軍。第三七三旅以七四六團並配屬地方抗日紅槍會的數百人擔任主攻，以七四五團為掩護。七四六團三營接連發起兩次攻擊，都被日軍擊退。晚上，一營加強二營發起強攻，一度衝進了兩下店，但很快就遭遇日軍猛烈火力的反擊，天亮時部隊又退了出來。日軍出城追擊，第三七三旅向東一直退到了香城。
十七日，攻擊濟寧未果的第三集團軍受到日軍第十師團第八旅團的猛烈反攻。日軍第八旅團的四個步兵大隊、兩個野砲兵大隊在二十輛坦克的掩護下，於二十五日突破了中國守軍的運河防線，攻占運河南岸要地嘉祥。在日軍的反擊中，第三集團軍部隊再次後撤至魯豫交界處到鉅野、獨山、大義、孟家屯一線。
此時，另一路日軍，板垣徵四郎的第五師團，在津浦路以東開始沿著濰台公路南下，企圖於津浦路北段的側面直接攻占魯南要地臨沂，然後直下徐州。
日軍第五師團原在山西戰場，忻口會戰前被調往華北地區。日軍華北方面軍給第五師團的命令是：沿膠濟鐵路迅速佔領青島。然而，日本海軍也同時命令位於上海的中國方面艦隊司令官長谷川清佔領青島。關係向來緊張的日本海軍和陸軍，都想搶得佔領青島的頭功。一月十日，日本海軍在膠州灣登陸，攻占了防禦力量十分薄弱的青島；而由於一路上的鐵路和公路均被中國軍民破壞，板垣徵四郎的第五師團行動遲緩，其先頭部隊十三日才抵達青島，從南京海運來的該師團國崎支隊（步兵第九旅團旅團長國崎登指揮的第四十一聯隊）十四日停靠青島港。第五師團主力剛到青島，立即接到了由青島、濰縣一線南下的命令，具體任務是：向諸城、沂水、莒縣方向攻擊前進，迅速佔領臨沂，配合津浦路上的第十師團南下。
臨沂，魯南軍事重鎮，位於徐州東北方向，是隴海、津浦兩條鐵路的安危所繫。如果日軍第五師團向西順利推進，與津浦路上南下的第十師團會合，將於北面大大加強威脅徐州的力量，中國方面的戰勢很可能變得不可收拾。可令人無法理解的是，在如此重要的方向上，中國方面竟然沒有部署守軍。從濰縣到青島再向南到臨沂，只有從青島撤出來的中國海軍陸戰隊員約兩千人，根本無法形成對日軍第五師團的任何威脅，李宗仁只好命令駐防海州的第三軍團火速趕赴臨沂禦敵。
中國陸軍第三軍團，原屬於西北軍舊部，是中國軍隊中典型的雜牌軍。抗戰初期，為調動雜牌軍的作戰積極性，國民政府往往給其將領很高的官銜，雜牌得越徹底官銜也就越高。因此，這支部隊名義上為“軍團”，實際上只有一個軍，即軍團長龐炳勳兼任軍長的第四十軍。而第四十軍雖名為“軍”，實際上只有一個師，即馬法五任師長的第三十九師。簡單的說，第三軍團只是一個加強師而已，全師下轄朱家麟的第一一五旅和李運通的第一一六旅，每個旅兩個團，加上一個補充團，砲兵、工兵、輜重兵和通信兵各一個營以及一個騎兵連和一個手槍連，兵力總計約一萬三千人。雖然是雜牌軍，但第三軍團的武器裝備算得上精良：步槍八千餘支、手槍九百餘支、輕重機槍六百六十餘挺、輕重迫擊砲六十餘門、山炮四門、戰馬三百餘匹，還有擲彈筒兩百餘具。
這樣一支被邊緣化的雜牌軍，之所以能在連年的內戰中生存下來，與其將領龐炳勳的帶兵有方不無關係。龐炳勳，生於一八七九年，河北新河縣人，出身貧苦，早年做小本生意糊口，二十歲那年從軍，在北洋新軍第三鎮當砲兵，後於東北測繪學堂畢業任初級教官。辛亥革命時，他以同盟會會員身份參加著名的灤州起義，起義失敗後逃回家鄉做販馬和倒賣糧食的生意。經商數年，龐炳勳練就了一套圓滑的處世經驗。近三十歲那年再次入伍，在曹錕的軍官教育團當副官。他經歷過數次的軍閥混戰，從普通軍官一步步升遷，帶著自己的部隊南征北戰，一心求得自身的生存和發展。他不貪不佔，與士兵同甘共苦，因此，儘管常年受到中央軍的歧視排擠，他的部隊始終沒有散伙——“將士在戰火中被沖散，或被敵所俘，或被友軍收編，一有機會，他們都潛返歸隊。”——他的部隊以“避重就輕，保存實力”著稱，他本人則被認為是“極圓滑”的“不倒翁”。作為在夾縫中求生存的雜牌軍將領，他的搖擺不定和復雜多變令人不可思議：北伐時他投靠馮玉祥，後又投蔣反馮；抗戰初期他堅決抗日，後又投靠日本人當了偽軍；受到共產黨人的感召，他再次率部與日軍作戰，但不久又依附於蔣介石；日本投降後，他率部與共產黨作戰；國民黨軍兵敗大陸他去了台灣，“為生活計，與昔日西北軍同事孫連仲合開餐館”為生。 ——從小本生意開始人生，到以小本生意維持晚年，龐炳勳的一生是一個坎坷的輪迴。
至少在一九三八年初，龐炳勳是堅定的抗戰派。他的部隊被編入第五戰區後，李宗仁召見過他一次，這次召見對他影響甚深。李宗仁對他很是敬重，自稱小弟，說論軍資年資都沒資格指揮龐大哥，只因軍務在身只好如兄如弟不分上下。李宗仁推心置腹地說，咱們在內戰中打了二十多年，今日共同抗擊日本的侵略，終“讓我們這輩子有了一個報國的機會。如能為國家民族戰死沙場，才真正是死得其所。你我都五十歲以上的人了，死也值得了，這樣才不愧作為一個軍人以終其生”。然後，李宗仁問他有什麼困難，龐炳勳說雜牌軍苦海無邊，中央非要置他於死地，強令他把五個團縮編為四個團，不然就停發第三軍團的軍餉，可這樣一來叫“剩下的弟兄們到哪裡去呢”？李宗仁當即表示，一定和中央交涉，收回這一命令。李宗仁不但答應龐炳勳依舊擁有五個團，還給他配發了大量的武器彈藥。龐炳勳非常感動：“長官德威兩重，我們當部屬的，能在長官之下為國效力，天日在上，萬死不辭。長官請放心，我這次決不再保存實力，一定同敵人拼到底。”
龐炳勳真的準備與日本人拼了。
接到李宗仁防御臨沂的命令後，龐炳勳立即率部奔赴戰場。到達臨沂地區後，他整合中國海軍陸戰隊殘部以及當地的民間抗日游擊隊，制訂了周密的作戰部署，並向蔣介石作了表態式的匯報：
職軍奉李司令長官令將東海防移交一一二師，即全部向臨沂集結準備，以一部配合游擊隊攻擊蒙陰泗水而佔領之，向泰安曲阜間威脅敵之側背；以一部協力海軍陸戰隊，固守莒縣沂水以北要隘，並以該方面游擊隊向諸城臨朐方向游擊。職於虞日（七日）到達臨沂，一一五旅及師直屬部隊明晚可到臨沂附近。查魯省第三、第八兩行政區游擊隊，各約二千餘，多系民眾，槍支惡劣，亦乏訓練。海軍陸戰隊，計兩大隊，共約二千人。又劉震東游擊隊正在集合中，劉本人在莒縣。又有楊士元奉李長官令，委為魯南民眾抗日自衛軍司令，所部現有五百餘，在集合中。此五部均歸職指揮。名目雖多，戰鬥力微弱。諸城現有敵三四百，裝甲車增至三十餘，有西犯模樣，已派厲司令文禮、劉司令震東率隊截擊。日照、石臼所海面，現泊敵艦兩艘，連日砲擊石白所及日照縣城。又日照東北泊兒鎮有敵數百，已令張司令裡元派隊截擊……
日軍第五師團以第二十一聯隊的一個半步兵大隊和一個砲兵中隊為先頭，於二月二十一日開始南進，中國守軍陸戰隊員和游擊隊員抵擋不住，日軍前鋒推進到莒縣東北方向的招賢鎮。龐炳勳立即命令第一一五旅增援莒縣。第一一五旅旅長朱家麟率二三〇團並配屬兩門山炮為左翼，副旅長黃書勳率二二九團並配屬兩門山炮為右翼，於二十一日午夜抵達莒縣。部隊抵達後才發現情報有誤，原以為守城的是偽軍劉桂堂部，可縣城裡面異常寂靜，一打聽才知偽軍早就跑了，而日軍在城外的攻擊陣地已佈設完畢。空城不能不佔領，於是二二九團立即進城做固守準備，二三〇團位於縣城的西邊準備冊應。
二十二日拂曉，日軍開始攻城。城內的二二九