這一戰役首先是從河南開始，華北派遣軍總司令岡村寧次大將調動第十二軍的三個師團。另從綏遠調來坦克第三師團，還有關東軍第二十七精銳師團，以及在華北的三個旅團，約十五萬大軍，再加上駐紮在山西境內的日第一軍一部，偽南京中央政府的張嵐峰、孫良誠、龐煩勳、孫殿英等部，在大量飛機的配合下，集結了三十多萬大軍，氣勢洶洶地向鄭州進攻。
國民軍參加河南戰役的是第一戰區，總司令長官是蔣鼎文。此時，蔣手裡有七個集團軍。這七個集團軍的主官是：
第四集團軍總司令孫尉如
第十四集團軍總司令劉恩茂
第十九集團軍總司令陳大慶
第二十八集團軍總司令李仙洲
第三十八集團軍總司令李家鈺
第三十九集團軍總司令高樹勳
第十五集團軍總司令何柱國
這七個集團軍共下轄十八個軍，總兵力為三十萬人。顯然，國軍力量嚴重不足。
岡村寧次的華北派遣軍兵分兩路，第一路軍由第二軍及坦克部隊等部組成。四月十七日，日軍第十七師團渡過黃河向鄭州前沿的中牟地區猛攻。戰役從此時開始。
國軍守中牟將軍是劉恩茂部將——第15軍軍長劉秉哲。面對強大的日軍攻來，劉部拼死奮戰，仍抵擋不了日軍的強大攻勢。經兩天的堅守戰，第15軍全線潰退。日軍乘勢渡過黃河，向中原重鎮鄭州撲來。同時，日第三十七師團的第二十二聯隊已繞過正面戰場，偷襲鄭州的側翼。當三十七師團趕到鄭州城下時，日第二十二聯隊已攻占鄭州，訓練乏術的國民軍撤出鄭州。可憐的中原重鎮、隴海和平漢兩大鐵路樞紐的鄭州就這樣地落入了敵手。真可謂失去容易，收復就難了。此時的劉恩茂不知是何滋味。
但那日寇則管不了那麼多，初戰得手，第二天就佔領了新鄭、尉氐，二十三日占領長葛。五月一日，中原名城許昌淪陷。五日堰城也失於敵手。五月十一日，日華北方面軍在確山與北上的的日第十一軍第十一旅團會師。日軍在河南如入無人之境，平漢鐵路中部地區全部陷於敵手。
與日軍第三十七師團進攻鄭州的同時，日軍第二軍從五月初從偃城等地向平地殺來。日山西第一軍的兩個旅團由垣曲向東南合擊洛陽。洛陽乃第一戰區司令部所在地。蔣鼎文見日軍來勢兇猛，立即調動大軍迎敵。可惜遠水救不了近火，僅兩天時間，日軍先後佔領登州、臨汝、襄城等城，逼進洛陽。蔣鼎文好不著急，一連數十道電令各部火速向洛陽靠攏。
且說重慶國民中央政府主席蔣中正，得到鄭州失陷的消息，十分惱怒，連連電令蔣鼎文死守洛陽，違者軍法處置。由於有韓復榘在前，葉肇在後，這兩個集團軍總司令都死於軍律之下。因而，這位蔣司令官也不敢怠慢，佈置軍隊在洛陽與日軍決戰。戍守洛陽的是第十五集團軍何柱國的第14軍之49師，該師九千餘人。東北軍將士本能征善戰，接何柱國和第14軍軍長武庭麟的電令，王建慶師長組織部隊死守城池。
日軍攻洛陽的力量，顯然比國軍人數多得多，又有坦克第三師團一部的配合。你看那數以百輛坦克裝甲車群起而動，漫山遍野地向城郊衝來。坦克的砲火是那樣密集，洛陽城內，僅兩三個鐘頭之間便承受了上萬發砲彈。那爆炸聲一陣緊似一陣，多少房屋傾刻間便成了廢墟，不少平民百姓隨之也死於侵略者的砲火之中。
國軍見此，發炮還擊，可憐，國軍的砲火與日軍相比，懸殊太大了。王建慶見洛陽城傾刻間便要陷於敵手，命令所有的砲火一起還擊日軍一部，竟打退了日軍的第一次進攻。晚上，王建慶連夜修復了被炸毀的城牆。第二天，王師長命部隊將成束的手榴彈放在迫擊砲筒裡，利用砲彈的攜帶力，向城外日軍一束束擲去。這種做法竟彌補了砲彈之不足，見日軍攻勢減弱，王師長下令全線出擊。在肉搏中，國軍將士無不爭先恐後殺敵，將攻入城內的日軍殺退。
到了第二天的晚上，援軍仍不見到來。王師長對師部主官們說：“何司令長官要我等死守洛陽，數万日軍在成群的坦克的配合下已兩次突入城內，雖被我軍殺退，但我軍的損失已過半，而日軍的銳氣又不減，諸位有何良策以挽回戰局？”眾皆默然，無一有主張。王建慶奮然，說：“我部大多將士生於東北，要生還家鄉，何日才能。既然諸君無策挽回危局，我等只有死戰，以報國恩。諸位切記，此時突圍已難。大丈夫戰死於沙場，雖不圖青史留名，也落得壯烈魂歸故里。明日殺敵雖死猶生。”
由於前兩天的攻城，日軍都遭受到國軍的頑強抵抗。第四天，日軍傾巢而動。那日軍的砲火向城內猛轟，將幾米厚的城牆轟塌了一大口子，日軍源源不斷地沿著缺口處湧進城來。這是日軍第三次進城了。王建慶大怒，親自帶著直屬營，沖在前面，他將輕機槍操在手中，一陣猛掃，日軍雖眾，但火力施展不開，國軍一陣衝殺，將缺口處的日軍殺退，奪回了缺口。
然而，當王建慶站在城樓上，參謀長向他報告，剩下的國軍還有不足兩千人時，王建慶一股悲哀湧上心頭：“區區兩千人，如何抵擋數万日軍的進攻。”
夜晚，精疲力竭的王建慶站在城樓上，遙望天空，雖繁星萬盞，但卻無法驅逐那心中的苦悶，此時的他已是一籌莫展。再看遠處，那依稀可見的日軍營房裡，燈光閃爍之中，成群的坦克將日軍圍成一團，在品嚐佳餚。此時突圍是最好的良機，衝出去，至少還有幾百號人生還。但將軍未接到突圍的命令，又豈敢自專。何況城內居民是多麼的捨不得自己的子弟兵啊。見警衛連長在身邊，王建慶無不愧疚的對他說：“我對自己的選擇無怨無悔，所不能饒恕自己的是不應該將老母，幼兒、嬌妻留在城內。老家已無回去之理，但總不能讓老母看著自己的兒子的屍體被日軍抬著遊城示眾吧。”他有些心寒，但他此時又能說些什麼呢？獨自一人尚且血戰到底，何況還有一兩千相親相愛的弟兄。
這天，也就是1944年的5月20日下午三時，數万日軍在上百輛坦克的配合下，向洛陽城發動了猛烈的進攻，守城部隊再次投入了戰鬥。王建慶已無力阻擋日軍入城，只好率部進行巷戰。哪知幾個小時後，日軍見我軍頑強抵抗，也不知城內的虛實，竟退出城內。王建慶大喜，帶領殘部五百餘人，發一聲喊，斜刺裡衝出。待日軍追趕時，這裡已衝出去好幾里路了。出圍後，王建慶清點人數，僅存三百七十餘人。
日軍被王建慶殺怕了，直到天亮後才發動新一輪的進攻，見未遭到抵抗，方知是一座空城。河南重鎮洛陽陷於敵手。
洛陽失陷，河南戰役結束。這次戰役，從四月七日開始，五月二十四日結束，共計三十七天，陷城市三十七座，一天一座。僅管蔣委員長調兵遣將，然而，終未擋住日軍的進攻。而與此同時，日華中方面軍總司令鈿俊六也指揮三十萬日軍向薛岳的第九戰區發動了極為猛烈的進攻。
還在河南戰役時，日本當局便命鈿俊六開始了長衡之戰。長衡之戰就是指長沙和衡陽的一次大會戰。早在二月初，日軍即開始調兵遣將。五月二十五日，鈿俊六來到漢口，部署長衡戰役。
長衡會戰的日軍是華中派遣軍整編第十一軍。日軍整編第十一軍是一個大集團軍，現編有八個師團又一個旅團。再加上從其它地方抽調出來的部隊，總兵力為三十萬人。鈿俊六為使戰役進展順利，還調動了日飛行大隊和四萬匹戰馬到前線，由第十一軍軍長橫山勇作前線總指揮。
此時，阿南惟機已調回日本國內。接替阿南的是塚田玫。塚田玫生於1886年，1935年官拜少將，1938年晉升為中將，1942年接替阿南惟機時已晉升為大將。當時，塚田玫參加鈿俊六的南京軍事會議後，乘專機回武漢時，由於飛得很低，在皖鄂交界的太湖縣上空為我國軍第138師高炮部隊擊中，機毀人亡。這是侵華日軍被我擊斃的最高軍銜的日軍軍官。今年的2月，橫山勇接替塚田玫職務。上任不久，便舉行第三次長沙戰役，結果大敗而歸。
中國方面迎戰的是第九戰區司令長官薛岳。現薛岳手中有十七個軍的編制，總兵力為四十萬人。人數與日軍大致相當，但裝備明顯低於日軍。顯然，這是又一次以劣勢對優勢敵人的進攻。這些天，薛岳一直在考慮，日華中方面軍動用如此大的兵力的目的是什麼？前面三次長沙會戰，皆以日軍大敗虧輸而結束，這一次與前兩次的差別又在什麼地方呢？如果是尋國軍主力決戰，不佔大城市，則應避實就虛。待日軍將老兵疲時予以痛擊。他把這個想法告訴重慶的蔣委員長。蔣委員長第二天回電同意他的作戰方案。
薛岳接到委員長的電令，便命第20軍軍長楊漢辰率部守汩水，第4軍軍長張德能部守長沙。又命李玉堂兵團守衡陽。為防不測，他急調第三十集團軍總司令王陵基部守益陽，部署完全後，薛岳將司令部移向衡陽，並將情況告訴蔣委員長。
在重慶的蔣委員長看了第九戰區的部署，認為很周密。正因為如此，才使國民軍的大帥蔣中正和第九戰區總司令長官薛岳忽視了強敵壓境的日軍在立體作戰中的強大威力。而薛岳也喪失了集中兵力痛殲日寇一股的時機。
到了5月27日，日軍第十一軍總司令長官橫山勇指揮八個師團在飛機和坦克的配合下，分路向第九戰區發動了前所未有的特大規模進攻。日軍的進攻分為一線兵團和二線兵團。一線兵團擔任正面作戰，由其精銳的四個師團組成。三個師團為二線兵團，作為機動部隊。另外還有兩個旅團為輔助部隊。