在長達八年的全面抗戰中，中國第一戰區從未打過一場好仗。
爆發於一九四四年上半年的豫中會戰，是抗戰期間中原戰場上規模最大、交戰雙方投入兵力最多的一次會戰。
這場作戰，深刻地暴露出中國社會政治、經濟和軍事諸方面正在全面惡化——國民政府麾下的黨政部門的大員、地方各級官吏以及隸屬於不同派系的軍隊將領，抗戰初期的愛國熱情和作戰意志都已被漫長而殘酷的戰爭、內部複雜的私利角逐以及令人難以置信的貪污腐敗消磨殆盡。而國民政府指揮下的軍隊，其一戰即潰已不再是單純的軍事問題，而是戰場上呈現出的一種全局亂象。包括國民黨內部高層人物在內，絕大多數的中國人都意識到一種令人擔憂的可能性：領導全面抗戰的重慶國民黨政權，很可能在日本人尚未被趕出中國時自己首先崩潰，這種崩潰不是來自於日本侵略的軍事壓力，而是一種無法逆轉的自我銷蝕與自我毀滅。
“此次中原會戰挫師失地，罪戾難辭。然而追懷過去，冀策將來，此一段血的教訓，深足警覺，確有坦白地檢討之價值”。第一戰區在戰後檢討報告裡這樣寫道。
這場被稱為“挫師失地，罪戾難辭”的會戰是從黃河岸邊開始的。
第一戰區的防區，北抵北平附近的大清河，西至陝西門戶潼關，東到津浦鐵路，南至平漢路上的許昌以南，是抗戰中國防區面積最大的一個戰區，區域內平原千里，黃河橫貫，中條山、太行山、伏牛山聳立其間。全面抗戰開始後，中國軍隊於平漢線戰敗，黃河以北國土盡失；翌年徐州會戰再敗，掘開黃河大堤後乃保住半壁中原。衛立煌主持戰區時，國共團結抗戰，華北敵後戰場活躍，但中條山守軍疏於防範，與日軍交戰中損失慘重，中條山遂被日軍攻占，加之龐炳勳等將領先後投敵，除了共產黨敵後武裝仍在這一地區與日軍艱苦周旋外，國民政府統轄的軍隊從此全部退到黃河以南。第一戰區的西面，是負責封鎖共產黨中樞陝甘寧邊區的胡宗南的第八戰區，東面與魯甦戰區連接，南面則是擔任湘西地區防務的李宗仁的第五戰區。三個戰區連接在一起，形成與日軍對峙的廣闊而漫長的中原對峙線。
第一戰區劃分為由司令長官蔣鼎文和副司令長官湯恩伯分別指揮的兩個部分。
司令長官蔣鼎文的長官部設在洛陽，指揮的部隊是：
第四集團軍，總司令孫蔚如。下轄：第三十八軍，軍長張耀明，其第十七師，師長申及智；新編第三十五師，師長孔從周。第九十六軍，軍長李興中，其第一七七師，師長李振西；新編第十四師，師長陳子堅。以上兩個軍都是由西北軍楊虎城的舊部改編而來。第四集團軍防區右接湯恩伯部陣地，擔任著棗樹溝、汜水、鞏縣、偃師、孟津一帶的黃河河防。
第三十六集團軍，總司令李家鈺。實際所轄部隊只有第四十七軍，軍長李宗昉，其第一〇四師，師長楊顯明；第一七八師，師長李家英。該軍為川軍，擔任孟津以西新安、澠池一線的黃河河防。另外，在該集團軍的序列表上，還有張際鵬的第十四軍，其第八十三師，師長沈向奎；第八十五師，師長王連慶；第九十四師，師長張士光。第十四軍為中央軍嫡係部隊，實際上由戰區司令長官蔣鼎文直接指揮，駐紮在洛陽呂家廟附近。
第三十九集團軍，總司令高樹勳。實際所轄部隊只有新編第八軍，軍長胡伯翰，其新編第六師，師長馬潤昌；暫編第二十九師，師長尹瀛洲。該軍由河北民軍改編而成，因此還指揮喬明禮的河北民軍約一個師。該軍的防區西面與胡宗南的第八戰區接壤，負責澠池、觀音堂一線的黃河河防。
第十四集團軍，總司令劉茂恩。實際所轄部隊只有第十五軍，軍長武庭麟，其第六十四師，師長劉獻捷；第六十五師，師長李紀云。該軍前身為豫西地區的鎮嵩軍，駐紮在洛陽附近。
劉戡兵團，總司令劉戡。下轄：第九軍，軍長韓錫侯，其第五十四師，師長史松泉；新編第二十四師，師長宋子英。該軍基本部隊由浙軍和奉軍混編而成。暫編第四軍，軍長謝輔三，其第四十七師，師長楊蔚；暫編第四師，師長馬雄飛。該軍在戰前由第九軍第四十七師擴編而來。兵團部駐紮在洛陽附近。
副司令長官湯恩伯，兼任魯甦豫皖邊區總司令，司令長官部設在葉縣，指揮的部隊是：
第二十八集團軍，總司令李仙洲。下轄：第八十五軍，軍長吳紹週，其第二十三師，師長張文心；第一一〇師，師長廖運週；預備第十一師，師長趙琳。該軍為中央嫡係部隊，擔任鄭州以北花園口至廣武的黃河河防。暫編第十五軍，軍長劉昌義，其新編第二十九師，師長呂公良；暫編第二十七師，師長蕭勁。該軍由河北抗日義勇軍改編而成，擔任花園口、中牟一線的黃河河防。第八十九軍，軍長顧錫九，其新編第一師，師長黃永瓚；第二十師，師長趙桂森。該軍前身為西北軍宋哲元部，駐紮在密縣和新鄭一帶。
第三十一集團軍，總司令王仲廉。下轄：第十二軍，軍長賀粹之，其第二十二師，師長譚乃大；第八十一師，師長葛開祥；第五十五師，師長李守正。該軍前身是西北軍韓復榘舊部。第十三軍，軍長石覺，其第四師，師長蔡劍鳴；第八十九師，師長金式；第一一七師，師長劉漫天。該軍為中央嫡係部隊。第二十九軍，軍長馬勵武，其第九十一師，師長全英；第一九三師，師長郭文爍；暫編第十六師，師長吳求劍。該軍是一九四一年由新編第二軍改編而成。第三十一集團軍部隊駐紮在臨汝、登封、葉縣、郟縣和襄城地區。
第十五集團軍，總司令何柱國。下轄：騎兵第二軍，軍長廖運澤，其騎兵第三師，師長徐長熙；暫編第十四師，師長李鴻慈；騎兵第八師，師長馬步康。第七十八軍，軍長賴汝雄，其新編第四十二師，師長彭齎良；新編第四十三師，師長黃國書；新編第四十四師，師長姚秉勳。還有陳又新的泛東挺進軍，駐紮在沈丘一帶。
第十九集團軍，總司令陳大慶。下轄暫編第九軍，軍長霍守義，其第一一一師，師長孫煥彩；第一一二師，師長王秉鉞；暫編第三十師，師長洪顯成。該軍以東北軍部隊為主，一九四三年底由暫編第八軍番號改編而來，駐紮在安徽阜陽一帶。
以上八個集團軍，十七個軍，共四十多萬人，部署在汜水、廣武、鄭州、中牟、尉氏一線的黃河河防，許昌至遂平之間的平漢鐵路沿線以及密縣、臨汝、襄城和洛陽的縱深地帶。
自一九四一年中條山會戰潰敗，第一戰區部隊基本上沒再打仗。國民黨方面普遍認為，太平洋戰爭爆發後，侵華日軍已無力發動大規模作戰。因此，蔣鼎文和湯恩伯自一九四二年主持第一戰區後，兩個人很清楚蔣介石賦予他們的主要任務是什麼：絕對不要主動對當面日軍發動攻擊，在求得長期對峙局面的同時，尋機與共產黨抗日武裝發生衝突，以遏制共產黨敵後武裝的壯大趨勢。
蔣鼎文，字銘三，浙江諸暨人，時年四十九歲，是國民黨軍將領中與蔣介石關係甚為密切的人。一九一一年武昌起義爆發後，十六歲的他加入學生軍，後入紹興大通陸軍中學堂和浙江講武學堂，參加過反對袁世凱稱帝的鬥爭以及孫中山領導的護法戰爭。一九二一年孫中山就任非常大總統時，他被任命為大元帥府參謀部中校副官。他是黃埔軍校的首批學員，為學員隊的區隊長，深得蔣介石的賞識。在東征戰役中他身負重傷，傷癒後升任團長，成為北伐軍中乾將。在對待中國共產黨的問題上，他與蔣介石的政治立場高度一致，曾率部鎮壓了第十九路軍於福建的倒戈。使他聲名大噪並與蔣介石關係更為牢固的，是他在西安事變中的表現。事變中，他和蔣介石一起被張學良扣押，為營救蔣介石，他充當了西安與南京之間斡旋的中間人，是促成蔣介石安全脫身的核心人物之一。全面抗戰爆發後，作為蔣介石的心腹，他被任命為西安行營主任，在政治、軍事、經濟諸方面對共產黨的陝甘寧邊區實施圍困。在兼任陝西省政府主席的任上，他買官賣官，貪污受賄，積累了驚人的財富，生活極其糜爛，在黃河北岸一帶到處可見日本人張貼的他一手抱著美人、一手提著鈔票的宣傳畫。一九四一年底，他調任第一戰區司令長官兼冀察戰區司令，開始和蔣介石的另一個心腹湯恩伯共事。
一九四〇年冬，湯恩伯率部進入河南，任魯甦豫皖邊區總司令。一九四一年初豫南會戰結束後，湯恩伯就再沒向日軍發射過一炮一彈。除了奉蔣介石之令對付共產黨抗日武裝外，他的主要精力都放在了橫徵暴斂和擴充實力上。他以他的基本部隊為核心，排除異己，結黨營私，勢力達到最高峰時竟擁有四十多萬人馬。他之所以把司令長官部設在葉縣，是因為葉縣是漢武帝的發祥地，也是曹操設在中原的巢穴，為此他自稱“中原王”。為了靠近國民政府的權力中心，他用暴斂來的金錢財富大肆行賄，蔣介石身邊的大小權貴幾乎都收到過他的重賄；他還把用大價錢從日戰區搞到的貴重物資，動用專車專船輾轉千里運往重慶。他的金錢財富全部來自對百姓的殘酷盤剝。中原大旱，蝗災又起，赤地千里，餓殍遍地，十室九空，兵匪喧囂，流民盈野，河南百姓從此有“水”“旱”“蝗”“湯”四災並重之說。
蔣鼎文與湯恩伯的矛盾幾乎不可調和。蔣鼎文在湯恩伯面前擺老資格，湯恩伯不但不以為然，且有意與蔣鼎文分庭抗禮。蔣鼎文為了製服乃至孤立湯恩伯，拉攏北方部隊和川軍頭目，但湯恩伯針鋒相對，在葉縣延攬招待各色人等，饋贈厚禮，鞏固自己權位的同時，還把蔣鼎文身邊得不少人拉到了他的集團中。兩人在同一戰區分任司令長官和副司令長官，本應在一個指揮部裡同心協力，但他們各自統帥著自己的部隊，盤踞在相互分割的區域裡，鬧矛盾的時候相互拆台，暫時平靜的時候便井水不犯河水。難以想像，如此一個戰區內，一旦發生大戰將會出現什麼局面。
所幸這里長期未戰。
日軍之所以在這一地域長時間沒有發動大規模攻勢作戰，除了日本國力軍力財力的衰退、太平洋作戰導致兵力不夠等原因外，最為重要的是日軍認為，與共產黨敵後抗日武裝的戰鬥才是這一地域日本佔領軍的主要作戰內容。
日軍華北方面軍認為：
中國東部的重要部分，已落入日軍手中，重慶軍被迫撤到黃河以南的山岳地帶，只能苟延殘喘。與此相反，中共軍卻乘日軍抽調部隊、兵力減少之機，在華北、華中的廣闊地帶，建成牢固的根據地，站穩了腳跟。
日軍還發現，這一地域的國民黨政權顯露出不穩定的傾向：
堅決反共的蔣介石及其一派（國民黨）現在很孤立。各民主黨派是所謂不滿分子，很有可能使國民黨陷入孤立。此外，南京現政權和華北政權所掌握的與日本合作的新軍，由於中共軍的活動而發生動搖，其戰鬥力頗有被粉碎、吸收之虞。
日本方面認為，共產黨之所以是大敵，是因為它與國民黨的區別極大：
如不了解中共軍的傳統和特性，尤其是忽視了其基幹部隊人人都是優秀戰士的特點，而談論中共軍，就等於脫離實際的紙上談兵……他們的領導人員，由於多年來一直在逆境之中，排除萬難，衝破艱險，因而其堅強意志和狡詐智謀，決非一般人所能比。
作為日軍華北方面軍司令官的岡村寧次，自上任起便把主要精力投入到了與共產黨抗日武裝的作戰上，但無論“治安作戰”“剔除作戰”，或是“大掃蕩”，結局卻是共產黨抗日武裝越來越強盛。後方不穩便無法在正面戰場上作戰，越“掃蕩”共產黨抗日武裝越活躍，於是更不敢在正面戰線上發動攻勢了。 ——日軍的這種兩難使得中國第一戰區內三年來一片平靜。
只是，這種平靜就要被打破了。
中原戰場上將發生一場規模空前的大戰。
促使日軍發動大規模進攻作戰的起因，還是常德會戰期間美軍戰機從中國基地起飛對台灣新竹日軍機場的轟炸，這次轟炸令日本方面再次強烈意識到本土安全將受到嚴重威脅。同時，進入一九四四年二月以來，太平洋戰局越發對日本不利了：美軍突破日軍的馬紹爾防線，已經壓到日本海軍聯合艦隊司令部所在地特魯克。美軍隨即對特魯克展開了大規模空襲，同時用強大的艦炮火力轟擊島上的日軍。接著，美軍在布拉翁環礁成功登陸，直衝馬里亞納群島。在東南海域，二月底，日軍連續丟失了重要島嶼上的支撐點，戰略前沿拉包爾陷於孤立，美軍突破了丹皮爾海峽，威脅到新幾內亞島的北岸。 ——日軍在太平洋上連續的失敗，導致了陸軍參謀總長杉山元和海軍軍令部總長永野修身的下台。被天皇任命兼任參謀總長和陸軍大臣的首相東條英機認為，在歐洲戰場上，美英會很快開闢第二戰場，盟軍將向歐洲大陸縱深挺進；在蘇德戰場上，蘇聯已經渡過了危機，戰場優勢將繼續擴大；而在亞洲戰場上，美軍將在太平洋上繼續與日軍拼死爭奪諸島，以逐漸向日本本土壓縮；英軍也將從印度洋方向，試圖奪回緬甸南部、安達曼群島以及蘇門答臘北部。從全局上看，日本只有全面採取守勢，而這種守勢能否保持相對的主動，將取決於對中國戰場的控製程度。 ——“因為在太平洋受到美軍的壓制，所以無論如何也必須確保西面的中國大陸和南方的聯絡。在海上正面萬一發生問題，對南方的五十萬軍隊不能坐視不救。”
所謂的“確保西面的中國大陸和南方的聯絡”是基於這樣的現實：儘管中日全面開戰已經第七年，但縱貫中國南北的鐵路交通平漢線、粵漢線和湘桂線，日軍依舊沒能完全控制。日軍雖然佔據了中國東南部的大片國土，可僅就交通線而言，南北交通大動脈卻被中國軍隊阻斷了。在平漢線上，中國第一戰區部隊卡在許昌附近；而粵漢鐵路線在長沙附近被中國第九戰區部隊佔據著；湘桂鐵路也處於被切斷的狀態。也就是說，從日軍佔領的中國東北地區往南，進入華北平原、中原地帶、兩湖地區，直到廣東和廣西，再到日軍佔領的中南半島上的緬甸，陸地上的南北交通是不通的。此時，日本海軍在太平洋上幾乎被美軍摧毀殆盡，孤懸於印尼和新馬地區的數十萬日本陸軍，一旦危機降臨，除了往中國境內撤退之外，再沒有其他的逃生之路。因此，中國大陸的南北交通線必須打通。
日軍大本營認為，日本與美英盟軍、與中國軍隊決戰的那一天遲早要到來，估計這一時刻應該在一九四六年。為了最後的決戰，現在就應該準備，即在太平洋各個島嶼上盡力阻擊美軍的同時，還要打通並保持住中國大陸從南到北的交通，以保證未來的進退能夠有機動的空間。 ——“打通華北、華中、華南分割的中國戰線，並聯接法屬印度支那，雖是極大的作戰，但考慮到該地區存在美空軍基地的現狀，無論如何必須在一九四四年內實現以上措施。”
一九四四年一月二十四日，大本營上奏天皇，對在中國戰場發動大規模攻勢作戰闡述了理由：
摧毀中國西南要地的敵各飛機場，以保本土及中國東海的防護安全為其第一目的。打通大陸後，即使在海上與南方的交通被切斷，也可經大陸運輸南方的物資，以加強戰鬥力，為其第二目的。這樣，估計今後大戰的形勢將會好轉。同時，作為附帶的收穫，可以取得攻占地區的鎢礦等重要資源。
天皇批准了這次作戰。
大本營當天便下達了作戰綱要，並把此次作戰命名為“一號作戰”。
這是一個規模空前龐大的作戰計劃。其要領是：首先在平漢路南部，動用第十二軍以及第一、第十一、第十三軍各一部，約六個師團的兵力，於一九四四年四月發動攻勢；然後，動用第十一軍以及第二十三、第十三軍各一部，約十三個師團，對湖南境內的長沙和衡陽、廣西境內的桂林和柳州以及湘粵贛邊區，發動三個階段的攻勢作戰；大約在一九四五年初攻占南寧，與南方軍駐法屬印度支那的第二十一師團會師於越南的諒山。日本方面的設想是：完全打通平漢鐵路、粵漢鐵路和湘桂鐵路，將中國的南北交通大動脈貫通，以便讓從“滿洲國”始發的列車，南下數千公里，開到越南境內，一路沒有任何阻攔，從而把中國戰場與南方戰場完全連接起來。
為了完成這次史無前例的大規模作戰，日軍大本營再次進行了國內動員，徵集新兵，相繼編組了十四個獨立步兵旅團，並即刻派往中國戰場；又成立了八個野戰補充隊跟隨作戰，以作為傷亡補充。同時，把原準備調往南方作戰的第三、第十三、第二十二師團仍留在中國戰場上。為了加強空戰力量，把第三飛行師團擴編為第五航空軍，並從關東軍調來七個飛行戰隊。 ——儘管東京大本營已經盡了最大努力，可是與中美聯合空軍相比，日軍在中國戰場上的空中力量依舊處於劣勢。
日軍在平漢路南部的作戰發動於河南境內：
方針
一、於四月下旬，以華北方面軍由黃河岸京漢沿線地區發動攻勢，擊潰敵軍，尤其是第一戰區的部隊，將京漢鐵路南部沿線要衝佔領並確保之。
二、命第十一軍及第十三軍各一部分，冊應支援華北方面軍的作戰。
三、主要作戰期限預定約一個半月。
作戰使用的主要兵團如下：
華北方面軍
第十二軍（第三十七、第六十二、第——0師團、坦克第三師團、獨立混成第七旅團、獨立步兵第九旅團、騎兵第四旅團）。
第一軍一部分。
第十一軍（獨立步兵第十一旅團之主力）。
第十三軍（第六十五師團長指揮之第六十五、第六十四師團各四個大隊）。
第五航空軍一部分。
指揮要領
一、華北方面軍大致應於上旬以前，進行新建部隊的組織及警備交替，命作戰所需兵團在駐地附近集結，進行訓練。
二、華北方面軍應在四月上旬以前，修復霸王城附近黃河鐵橋。
三、華北方面軍大致應在四月中旬，命第十二軍主力集中於新鄉南方地區，一部分集中於開封西面黃河左岸地區，完成作戰準備。第十二軍向前方開動時，命第五十九師團長一併指揮獨立混成第五旅團，獨立步兵第一、第四旅團等部，由方面軍直轄，負責山東省警備任務。
四、第十二軍大致應於四月下旬發動攻勢，擊潰敵軍後，進入郾城附近，做好向洛陽方面作戰的準備，同時以一部兵力進攻信陽方面，配合第十一軍的部隊打通通往武漢地區之陸路聯絡線。
五、第十二軍主力，以後應迅速由郾城附近向右迂迴，突入洛陽方面，擊潰敵第一戰區部隊。
六、華北方面軍在發動本次作戰前，命第一軍向西方佯動，並於作戰開始後，命第一軍一部及時由垣曲附近渡過黃河，切斷隴海路，支援第十二軍主力作戰。
七、第十一軍大致於五月上旬，以一部兵力，由信陽附近向確山附近採取攻勢，支援華北方面軍作戰。
八、第十三軍於四月底前後，以一部兵力在阜陽附近作戰，牽制敵人，使華北方面軍作戰順利進行。
九、由關東軍調用的第二十七師團，先在黃河左岸待命，隨著本作戰的進展，經陸路向武漢地區推進。
十、作戰完成後，華北方面軍應即派遣第三十七師團和坦克第三師團的各約半數，經陸路開往武漢地區，劃歸第十一軍指揮。
十一、作戰完成後，華北方面軍大致將洛陽、臨汝、舞陽及泌陽東方一線，作為對敵第一線，確保京漢鐵路南部沿線要地。
十二、用於確保新佔領區的兵力，預定大致如下：第六十二師團、第一一〇師團、坦克第三師團（缺少一半）、獨立混成第七旅團。
十三、華北方面軍隨著作戰的進展，應抓住時機在鄭州、洛陽、郾城附近建設飛機場，同時迅速修復京漢鐵路南段。
但是，“按照一號作戰的提議，雖然在華北打通京漢線作戰勢在必行，但方面軍以黃河的險阻為理由，對之不感興趣”。岡村寧次的解釋是，華北方面軍的主要作戰對象應為中共抗日武裝。華北方面軍司令部的幕僚們經過研究，商定還是“在某種程度上暫時犧牲我占區的治安，從而可在屬下各軍最大限度地抽出兵力”，以執行大本營賦予的作戰任務。岡村寧次對此次作戰提出了兩點要求：“一、目標為湯恩伯軍。作戰時如果猛攻密縣，湯軍主力當來應戰，應考慮對其進行大舉包圍以殲滅之；二、本作戰期間絕對杜絕三惡（不燒、不搶、不殺）。”
擔任主攻的日軍華北方面軍第十二軍，下轄三個師團又六個旅團，其中的三個旅團還是剛組建的部隊。為了加強其力量，日軍大本營下達了第十二軍新的戰鬥序列，使得其兵力大大得到了擴充。第十二軍，司令官內山英太郎中將。下轄長野祐一郎的第三十七師團、本鄉義夫的第六十二師團、林芳太郎的第一一〇師團、竹下義晴的第二十七師團、野副昌德的第六十三師團、山路秀南的坦克第三師團，以及多賀哲四郎的獨立混成第七旅團、長嶺喜一的獨立步兵第九旅團、藤田茂的騎兵第四旅團。軍直屬部隊：野戰重砲兵第六聯隊、獨立野戰砲兵第十一大隊、獨立山砲兵第一大隊、野戰高砲兵第七十四大隊，以及獨立工兵第三十八、第四十聯隊和第五十九、第六十大隊以上參戰部隊，加上冊應第十二軍的部隊，日軍總兵力至少在十六萬人以上。
但第十二軍的軍官們還是不放心，對峙線兩邊多年不戰，令他們無法徹底掌握中國第一戰區的底細。因此，他們對派遣軍總司令部讓他們從正面突破中國軍隊的防禦陣地十分不滿，認為黃河鐵橋和霸王城以南的中國守軍必定力量強大、布防嚴密，正面攻擊會帶來很大的傷亡。經過研究，他們認為可從鄭州東面的中牟地區渡過黃河，進攻鄭州、新鄭和密縣，直接威脅黃河鐵橋附近中國守軍的側後，形成前後夾擊的局面，這樣一來中國守軍的防線必定全面崩潰。根據這一設想，第十二軍制訂了詳細的作戰計劃：
一方針
軍於四月二十日左右，以主力自黃河河畔平漢路沿線地區，以一部自開封西南方正面發動攻擊，擊潰第一戰區為主的敵人後，佔領平漢路南段沿線之要地。
二指導要領
―、軍以第三十七師團、獨立混成第七旅團，集結於開封及其東方地區；第一一〇、第六十二師團，集結於黃河鄭州鐵橋北岸兩側地區；獨立步兵第九旅團集結於汲縣附近；為欺騙敵人，第二十七師團集結於新鄉以西之博愛、沁陽地區；坦克第三師團在汲縣及其以北地區集結；騎兵第四旅團在商丘現警備地區進行戰備。
二、作戰開始前，第二十七師團在黃河以北之孟津，騎兵第四旅團主力在霸王城與開封間之黃河北岸，分別進行牽制性佯動，並適時推進軍主力，準備對霸王城及中牟正面敵陣地實施攻擊。
三、第三十七師團指揮獨立混成第七旅團，於四月十八日拂曉，在中牟正面渡過新黃河，向鄭州及其以南地區突進；軍主力第六十二、第一一〇師團，獨立步兵第九旅團，突破霸王城正面敵軍陣地，迅速向以南之鄭州、汜水、密縣、郭店、新鄭等要地推進，將敵軍捕殲於鄭州平原。為使霸王城正面敵軍陣地能在作戰一開始時就遭到沉重打擊及被突破，坦克第三師團應以一部協同。軍主力預定四月二十日拂曉開始進攻。進攻開始前先佔領鴻溝以西漢王城附近高地。
四、軍主力到達鄭州附近時，坦克第三師團、騎兵第四旅團即應迅速向黃河以南開進；軍主力繼續擊潰所在地區之敵，直趨郾城，準備向西迴旋，同時以一部迅速向信陽方向推進，與第十一軍之部隊會合，打通平漢路。而後隨平漢路之打通，將預定使用於湘桂作戰之第二十七師團向武漢地區前進。
五、軍主力到郾城後，應以極迅速之突然行動向右迴旋，向洛陽地區突進，以尋殲第一戰區主力部隊。
六、第五航空軍除以一部支援此次作戰外，必要時應以有力之戰鬥、轟炸部隊進行直接支援。
七、作戰開始後，第一軍將於山西之蒲州、第十三軍將於安徽之阜陽地區進行牽制。
八、此次主要作戰結束之時間，大致在五月下旬。
內山英太郎制訂的計劃，是一個三路閃擊的計劃：先由左翼的第三十七師團、獨立混成第七旅團和騎兵第四旅團，由中牟附近南渡黃河，強佔新鄭，然後接應中央一路的部隊奪取鄭州和密縣；右翼的第二十七師團在黃河北岸擺出攻擊洛陽的態勢，牽制蔣鼎文的四個集團軍，使之不能增援湯恩伯的防區；中央一路部隊由第六十二、第一一〇師團、獨立步兵第九旅團、坦克第三師團組成，從黃河鐵橋渡河後，攻擊霸王城要塞，奪取滎陽和廣武，把中國軍隊第三十一集團軍壓縮到密縣以西。然後第十二軍主力沿著平漢路南下，尋殲中國軍隊第二十八集團軍，奪取許昌、禹縣和襄城等要地，預定在郾城或許昌附近突然向西迴旋，包圍湯恩伯部主力於登封地區，予以殲滅後直逼洛陽城下。從日軍的作戰計劃看，其作戰規模、作戰決心和作戰目的堅定而明確，中國第一戰區在養尊處優三年之久後，即將面臨一場吉凶未卜的惡戰。
最早判斷出日軍要在中國的中原地區發動一場大規模攻勢作戰的是美國人。蔣介石的中國戰區參謀長史迪威，早在一九四三年九月便向蔣介石提出報告，認為日軍鑑於太平洋戰場上的節節失利，必定要以確保其通往南洋各地的交通線為目的，在中國的南北鐵路大動脈沿線發動大規模攻勢作戰。為了避免中國軍隊被日軍各個擊破，史迪威建議中國北方部隊主動向日軍發動攻勢，以瓦解日軍的作戰企圖。史迪威甚至提出了各路中國軍隊同時行動的具體進攻計劃：傅作義指揮第三十五軍沿著平綏鐵路東進，孤立包頭的日軍；鄧寶珊指揮第二十二軍配合傅作義，在包頭至歸化之間打擊日軍；閻錫山的部隊全線襲擊同蒲路；湯恩伯部主力向東移動，渡過黃河威脅開封和新鄉；朱德指揮第十八集團軍進入五台地區，襲擊平漢路。但是，蔣介石認為，中國軍隊的裝備太差，進行如此規模的反攻作戰，美國必須給中國裝備十五個美械軍才行，史迪威的建議就此被擱置了。
進入一九四四年，來自第一戰區的情報顯示，日軍已經開始修復黃河鐵橋，並有兵力頻繁調動的跡象。重慶方面意識到這很可能是日軍南下的前奏，於是對第一戰區的兵力配置和防禦陣地進行了重新部署，並於三月四日下達了較為詳細的以全面防守、局部出擊為原則的作戰指導要領。根據軍事委員會的指導要領，第一戰區於十天后下達了一個在嵩山附近與日軍決戰的作戰指導方案，其主要內容是：
一、扶溝、汜水間河泛防部隊，應力阻敵人渡犯及突圍。
二、如敵渡犯突圍成功時，河泛防部隊應憑藉許昌、洧川、長葛、新鄭、鄭州、滎陽一帶據點，疲憊敵人。
三、同時湯兵團及第四集團軍應以其控制部隊，於登（登封）、密（密縣）北側山地，迄汜水間構成守勢地帶，於襄城、葉縣、臨汝、登封、密縣、禹縣地區構成攻勢地帶。如敵向我守勢地帶進犯時，守勢地帶之部隊，應堅強抵抗；攻勢地帶之部隊，應向左旋回，側擊敵人。如敵主力向我攻勢地帶進犯時，攻勢地帶之部隊應與敵即行決戰；守勢地帶之部隊，即轉移攻勢，向右旋回，側擊敵人。
四、湯兵團以第十二軍、第十三軍、第七十八軍、新一師、第二十師，隱密配置於登封、臨汝、禹縣、襄城、葉縣攻勢地帶，並抽集一個師固守許昌。臨泉附近部隊，應有西移參加平漢路以西作戰之準備。
五、第四集團軍除固守原河防外，應以一個軍固守老飯溝迄金溝主陣地，並以一部佔領張莊、鐵山、高山寨前進陣地，並確保虎牢關據點。
三月十六日，重慶軍事委員會連續兩次致電第一戰區修改作戰計劃，特別強調了對許昌等重要據點的固守，並認為湯恩伯上報的作戰計劃並不符合軍事委員會的意圖。第一戰區於三十一日重新修改了計劃並再次上報，把決戰地域改在了襄城、禹縣和許昌附近地區。
湯恩伯上報的作戰計劃，不但把日軍將要發動的大規模攻勢作戰稱為“突圍”——彷彿他多年來一直在包圍著日軍似的——而且煞有介事地聲稱自己要與企圖“突圍”的日軍進行“決戰”。有史料表明，湯恩伯曾向蔣介石提出過一個主動進攻的建議，說他要在中原麥收季節裡“先發製人”，命令暫編第十五軍襲擊開封和中牟，第十三軍襲擊新鄉，第八十五軍奪取霸王城，第二十九軍作為預備隊。 ——明知蔣介石不會同意所謂的“主動攻勢”，湯恩伯興師動眾的表態除了冒充勇猛之外沒有任何意義。關鍵是他提出“主動進攻”的時間，是在軍事委員會下達作戰指導之後，如果他真的想要“主動進攻”，不要說他的部隊與日軍沉悶的對峙了三年，就是按照史迪威的建議於幾個月前積極動作，也不會致使日軍發動攻勢後第一戰區一敗塗地。
最能體現湯恩伯在軍事上不作為的，莫過於對黃河岸邊霸王城附近的邙山據點的丟棄。早在一九四一年十月第二次長沙會戰時，日軍華北方面軍為了冊應第十一軍作戰，曾以第三十五師團強渡黃河，第一戰區由十二萬大軍構成的黃河河防當日便被日軍突破，鄭州城在兩天之內丟失。日軍華北方面軍完成冊應作戰回撤時，除了留下一部兵力駐守中牟縣城之外，還在第一戰區一線陣地的要點霸王城修築起橋頭堡陣地。這個陣地孤懸於黃河南岸，日軍駐守兵力僅為兩個步兵大隊和一個砲兵大隊，而在近三年的時間裡，第一戰區竟然對此無動於衷。 ——對一個嵌入自己前沿的至關重要的據點尚且不管不問，憑什麼還能說出自己要“主動進攻”？
僅從第一戰區最後確定的防禦部署上看，也無法理解蔣鼎文和湯恩伯在軍事上何以如此低能——中條山會戰失利後，黃河沿線成為中日兩軍對峙的第一線，日軍隨時可能強渡黃河發動攻勢，而就在日軍進攻企圖已經相當明了的時刻，第一戰區的部隊依舊是一線排開、散亂不堪的態勢：陳大慶的第十九集團軍在皖西和豫南，主要任務是應對共產黨領導的新四軍；何柱國的第十五集團軍在汜東和淮北，主要任務是應對共產黨領導的八路軍；在靈寶至垣曲之間擔任河防任務的，是在華北地區與共產黨抗日武裝摩擦失敗的雜牌軍高樹勳部；李家鈺的第三十六集團軍在新安；劉戡實際指揮的兵力僅有三個師，散佈在伊陽和伊川一帶；孫蔚如的第四集團軍在汜水與偃師之間。第一線本來就漏洞百出，而作為戰區主力的李仙洲的第二十八集團軍和王仲廉的第三十一集團軍，卻被散佈在鄭州、滎陽一直到許昌平漢路沿線以及黃泛區以西地帶。 ——第一戰區的整個防線，既沒有梯次配備，也沒有控制主力於後方，完全是被動挨打的部署，一旦前沿的任何一點被日軍突破，整個防線便再也沒有一個位置可以支撐反擊。 ——中國第一戰區官兵，在這樣兩位長官的指揮下，面對即將降臨的空前規模進攻在劫難逃。
會戰是從日軍第三十七師團於中牟附近偷渡黃河開始的。
四月十七日黃昏，長野祐一郎召集第三十七師團各部隊軍官，在中牟縣城的警備隊裡下達了攻擊命令。此時，第三十七師團的先頭部隊已經開始行動了：
中牟一帶一片漆黑，寂靜無聲，掠過河面的風輕輕吹動河邊的草。右翼隊利用黃昏，佔領了重慶軍陣地前面五百米的沙丘要地。左右兩翼隊於二十三時分別由準備進攻的位置出發。右翼隊由中牟西南方，左翼隊從中牟東方和南方，在軍旗下肅靜地向重慶軍陣地逼近。零時過後，右翼隊正面的重慶軍可能發覺我軍的進攻，突然向我軍猛烈射擊，立即槍聲四起，整個中牟正面亂成一片。我第一線部隊保持沉默，繼續匍匐前進，逼近重慶軍陣地。陣地前方雜草叢生，音響很大，已難隱蔽，於是滿懷強烈鬥誌發起了猛攻。
黃河中牟一帶的河防陣地，是劉昌義的暫編第十五軍的防區。
暫編第十五軍是一支剛組建的部隊，本來只下轄一個師，即蕭勁的暫編第二十七師。進駐中牟河防陣地後，呂公良的新編第二十九師被劃歸該軍指揮。軍長劉昌義，河北人，行伍出身，性格耿直暴烈，但他接納的大都是有軍校畢業文憑的軍官。因此，儘管全軍新兵很多，戰鬥力很弱，可軍官們個個來歷不含糊：副軍長李強是黃埔一期的老資格，參謀長趙蘊奇進過陸軍大學乾訓班，暫編第二十七師師長蕭勁是赴德留學生，新編第二十九師師長呂公良畢業於黃埔六期。兩個師的團長們，無一不是黃埔或陸大的，最低也是講武堂出來的。至於營連級軍官也都個個有學歷，排級軍官裡的軍校生占到了三分之一。
四月初，第二十八集團軍調整部署時，把暫編第十五軍的兩個師拆開，其部署相隔很遠：暫編第二十七師負責中牟河防，新編第二十九師防守許昌城。關於這樣的部署，不少人議論紛紛，認為把武器最差、戰鬥力最弱的暫編第二十七師放在了最前沿，而把武器精良、戰鬥力較強的新編第二十九師放在了後方許昌，有本末倒置之嫌。但是，劉軍長還是認真執行了這個部署。他把暫編第二十七師的七十九團和八十團部署在黃河岸邊的一線陣地上，八十一團留在師部所在地滹沱張莊附近當預備隊，他的軍部設在距離前沿不遠的新鄭西南的大高莊，軍直屬部隊離他兩公里，他住的大房子裡只有一名副官、一名侍從參謀和八名衛士。
十八日凌晨二時，前沿一線陣地發生戰鬥的消息傳到軍部，劉軍長立即決定副軍長、參謀長留在軍部，他帶著侍從參謀由特務連跟隨出發上前線。侍從參謀提醒他是否帶著軍官隊，說這些軍官儘管打起仗來很難說有什麼用處，但至少可以讓他們當傳令兵吧！劉軍長表示，如果帶部隊，就從新鄭附近的新編第二十九師八十六團調一個營來。
上前沿的劉軍長走出不遠，就碰上了暫編第二十七師運送傷病員和軍官家眷的三十多輛大車正在浩浩蕩盪地向後撤退。劉軍長對傷病員們說，路上必須遵守紀律，不得擾民，否則統統槍斃。
下午，劉軍長在暫編第二十七師師部見到蕭勁師長，他立即意識到了局面的嚴重。
日軍第三十七師團和獨立混成第七旅團，正在暫編第二十七師正面陣地前強渡。日軍在中牟縣城東面的邢莊、榮莊、傅莊以及縣城西面的三王莊，開闢了四個強渡突擊點。面對日軍的優勢兵力和多點突擊，僅憑暫編第二十七師阻擊顯然十分單薄——在與日軍對峙的黃河天險第一線，中國軍隊的河防薄弱得令人吃驚——暫編第二十七師只有幾門迫擊砲，三個團加起來才有五挺機槍，官兵們只能用手榴彈與衝上來的日軍戰鬥。在付出很大傷亡代價後，河防全線都處在邊打邊撤的狀態。天亮時分，日軍擴大了渡河面，後續部隊不斷地湧上南岸，守軍的小李莊、小辛莊、桃村莊、大潘莊和洞上村等陣地均被日軍突破。後退中的暫編第二十七師官兵，利用村落、溝渠、樹林和沙丘節節抗擊，很大程度上遲緩了日軍的推進速度——“該敵利用原有和新築陣地對我軍的進攻進行了頑強的抵抗，鬥志也很旺盛。陣地似有斜射、側射的設備標識，效果也頗可觀”。暫編第二十七師的下級官兵，基本上都來自河北抗日義勇軍，是有抗日熱情的河北農民，他們沒有經過正規軍的軍事訓練，打起仗來也不懂那麼多的戰術，憑藉的只是一股死拼到底的精神——回顧整個豫中會戰，首先接戰的暫編第二十七師雖然最終沒能守住陣地，但官兵們的戰鬥精神令人刮目相看。
到了十八日晚上，中牟一線的河防陣地已全部丟失，日軍打到了暫編第二十七師師部滹沱張莊附近。師部給劉軍長準備了晚飯，可劉軍長卻舉箸難嚥。蕭勁師長認為，連預備隊都派上去了，各團還是不斷地後退，黃河天險和堅固的陣地工事尚且擋不住日軍的進攻，日軍已經突入縱深，我軍再想依靠沙丘平地把日軍打回去，基本上沒有可能。但劉軍長固執的命令必須組織部隊實施反攻，並表示他要親自率領他帶來的那個作戰營和特務連，再加上戴眼鏡的軍官隊參加反擊，非要把日本鬼子趕回黃河以北去。
十九日凌晨二時，劉軍長率隊出擊了——在國民黨軍部隊中，軍長帶著部隊打衝鋒的情景極其罕見，或許這就是行伍出身的劉昌義的血性所在——在黑夜中迎著日軍向北搜索時，作戰營的先頭連在黑牛張村附近被日軍發現，當即展開了戰鬥。劉軍長命令另外兩個連左右迂迴，命令特務連和軍官隊跟在先頭連後面正面強攻。各路官兵殺聲震天地衝進了黑牛張村，日軍丟下十幾具屍體後向北退去，戰鬥中劉軍長的突擊隊傷亡五十多人。與此同時，暫編第二十七師的八十一團和七十九團也分別發動反擊，收復了兩個村莊。天亮之後，劉軍長的突擊隊和暫編第二十七師部隊把當面的日軍向北逼退到劉巧村附近。 ——形勢似乎有了好轉的趨向，如果此時中國軍隊的後續部隊上來的話。
但是，暫編第二十七師的周圍沒有任何增援部隊。
十九日天亮之後，日軍騎兵在砲火的助戰下，向中國守軍發動衝鋒，暫編第二十七師抵擋不住，一直撤到昨天反擊開始的位置，全師已經傷亡上千人，雙方膠著在樹頭村附近的沙丘地帶。日軍第三十七師團師團長長野祐一郎有些不安，趕到前沿親自督戰，他看到中國守軍雖然已沒有固定陣地，但“利用附近村莊的圍牆、樹木等為掩體，抵抗相當頑強”。他們投出“很多手榴彈，爆炸聲在樹林中猛烈迴響”。幾門簡陋的迫擊砲儘管對沖鋒的日軍沒有很大威脅，可還是對日軍“後方集結部隊造成若干損失”。
劉昌義直接指揮暫編第二十七師作戰，令師長蕭勁認為軍長的越級指揮擾亂了他的作戰計劃，兩人之間產生了衝突。更令劉軍長煩悶的是，昨晚他親自指揮的反擊取得了成效，而現在的反勝為敗卻讓他很難接受。 ——劉軍長不知道，就在他悶悶不樂時，日軍的一支突擊部隊已繞到了他的身後。
就在日軍第三十七師團突破暫編第二十七師河防陣地的同時，步兵第二十二聯隊第一大隊大隊長佐藤正混，率領“先遣挺進隊”的三百名官兵偷偷渡過了黃河。這三百日軍一律輕裝，沒有馬匹和行李，除了隨身攜帶的輕武器外，全隊只攜帶著四挺機槍。為了行動更加隱蔽，三百人的腳下全穿著日本人稱為“足袋”的布襪子。 “先遣挺進隊”的任務是不顧一切直撲鄭州城。他們十八日晚上八時出發，遇到中國守軍以及可能驚動狗吠的村莊便繞過去，走過田野，蹚過河流，置體力不支者於不顧，始終以每小時八公里的速度猛跑。他們利用通往鄭州的被廢棄的鐵路路基作為直線行軍的路標，一些士兵累倒掉隊，沒倒下的邊跑邊往嘴裡塞飯糰，竟然於十九日凌晨跑到了鄭州火車站的城牆附近，而一路上中國守軍沒有絲毫察覺。在城牆下，佐藤正混命令第一中隊立即攀城。日軍利用黎明前的暗夜和晨霧，用繩索爬上了城牆，然後在微明的天色中搖晃太陽旗——“由於出其不意，敵人毫無鬥志，從城牆上開始後退，中隊即以兩個小隊向北門猛撲。城裡到處是被槍聲和手榴彈爆炸聲嚇得驚慌的老百姓。衝進一處像是司令部的房屋裡，重慶軍剛剛逃跑的跡象歷歷在目。”
位於中國第一戰區縱深、城防堅固的鄭州城，竟在會戰開始的第二天便被日軍攻占了城池一角，而突襲鄭州城的日軍僅為缺少一個中隊的大隊，實施攻城的日軍僅僅是一個中隊，這實在令人難以置信。
日軍第三十七師團於中牟附近發起攻擊的同時，第二十七師團也開始向洛陽方向實施佯攻。在黃河邊，日軍工兵架設浮橋，調動船隻，步兵在河岸邊偵察邊測量——“偽裝成和真的渡河一樣。”趁著中國守軍的注意力被吸引到中牟方向和洛陽一線黃河對面的時候，中央一路的日軍悄悄經過黃河鐵橋，潛伏到黃河南岸那個被日軍佔據已久的邙山頭橋頭堡附近——在長達三年的對峙期間，中國守軍竟然看著日軍在眼皮底下對黃河鐵橋進行修復。修復黃河鐵橋不是一件容易的事情，不要說實施步兵攻擊，就是用砲火干擾也定會迫使日軍停止修復。但是，日軍竟然把橋修好了，現在又堂而皇之地從橋上過來了，這也是咄咄怪事。 ——十九日晨，太陽剛剛升起，日軍向中國守軍第八十五軍預備第十一師的陣地開始了猛烈砲擊。與此同時，在洛陽以東，日軍第四十四、第十六飛行戰隊起飛戰機二百多架次，輪番向中國守軍黃河前沿陣地狂轟濫炸。日軍第一一〇師團第一六三聯隊第二大隊向邙山頭高地發動了衝鋒。預備第十一師的一個營在營長王鑫昌的率領下奮力抵抗，激戰到中午時分，王營長和全營三百多名官兵全部陣亡。接著，在邙山頭陣地以西，日軍第一一〇師團第一九聯隊第三中隊，在中隊長澀谷幸雄的帶領下，向黃河前沿陣地摩旗嶺發動攻擊。日軍集中重砲、野炮和山炮一起轟擊，第一三九聯隊也集中了所有的重武器支援作戰，中國守軍利用工事障礙頑強阻擊，但阻擊陣地很快就在日軍的砲火中被毀，日落時分摩旗嶺主陣地丟失。第八十五軍當即命令預備第十一師動用預備隊三十三團對日軍實施反擊，軍工兵營和特務營也緊急增援前沿。但日軍已經從中國守軍的防禦線上撕開了口子，後續部隊從缺口處蜂擁而至，三十三團多次沖擊未果，團長佘子培身負重傷。霸王城東西兩側的邙山頭和摩旗嶺高地相繼失守後，日軍消除了黃河河防正面最前沿的障礙，中國守軍的砲兵也由於失去了前沿觀察點而無法準確射擊。二十日，吳紹週的第八十五軍全線向塔山、萬山地區撤退。
日軍第六十二師團渡過黃河後，向滎陽縣城猛撲過去。中國守軍第八十五軍的數百名官兵依城防守，二十日傍晚時分城牆被日軍攻破，滎陽失守。
從霸王城撤退的吳紹週的第八十五軍，潮水般地向南面的鄭州湧去，與搶先佔據鄭州城牆一角的日軍“先遣挺進隊”撞到了一起，第八十五軍立即對這股突進到縱深的日軍小分隊展開了圍攻。混戰中，中國官兵繳獲山炮一門，日軍“先遣挺進隊”傷亡慘重，被打死十六人，十五人身負重傷。就在這支日軍小分隊幾乎絕望之時，第六十二師團的第六十三旅團趕到了鄭州城下。第六十三旅團是第六十二師團的左翼，任務就是攻擊鄭州城。該軍一路南下鄭州時，不斷地向撤退中的第八十五軍部隊實施追擊，追上的基本上都是行李大車隊，因為不需要停下來作戰，所以推進的速度很快，二十日下午二時其先頭部隊第十二大隊就看到了鄭州的城牆。大隊長賀谷當即決定與那支驚魂未定的“先遣挺進隊”聯合攻擊鄭州城。日軍第十二大隊從已被佔據的城牆一角向城內突擊，中國守軍在日軍的攻擊下很快潰退，鄭州全城隨即陷落。
鄭州失守後，根據蔣介石的指示，湯恩伯把第一戰區部隊編成了南北兩個集團，進行了緊急調整部署：南集團由李仙洲為司令，統一指揮賀粹之的第十二軍的三個師、馬勵武的第二十九軍的三個師、賴汝雄的第七十八軍的三個師、劉昌義的暫編第十五軍的兩個師以及陳又新的泛東挺進軍的兩個旅，在平漢路及其以西的臨潁、許昌、禹縣、郟縣、寶豐、葉縣和襄城等地，阻擊消耗南下的日軍；北集團由第十三軍和第八十五軍組成，以第三十一集團軍總司令王仲廉為指揮，集結在南集團西面的登封、臨汝一帶的山區裡養精蓄銳，等沿著平漢路南下的日軍與沿途節節阻擊的中國軍隊拼得精疲力竭，開始向黃河以北撤退時，湯恩伯將親自督率藏在山區裡的那兩個軍，快速出擊攔截，圍殲日軍。
以上部署完全是湯恩伯的一廂情願：讓精銳的中央軍部隊躲在山區裡不與日軍接觸，把至關重要的平漢路沿線防禦，全都交給只摻進一支中央軍的眾多雜牌軍，在明知道如此部署平漢路必丟無疑的情況下，卻煞有介事地說要等日軍力竭向北撤退時出擊圍殲。 ——日軍發動此次攻勢作戰，就為佔領平漢路且鞏固之，根本沒有打完就撤的計劃，湯恩伯對日軍將會精疲力竭以至北撤的判斷憑據何在？自台兒莊作戰起，徐州會戰、隨棗會戰、棗宜會戰，及至這次豫中會戰，日軍每一次的作戰目標都有尋殲湯恩伯部主力之意，而湯恩伯硬是每一次都能令日軍根本見不到他的主力。他那裝備精良的中央軍嫡係部隊，總是早早地、遠遠地躲到核心戰場以外，理由永遠都是待機出動。湯恩伯就這樣為蔣介石保全著精銳部隊，而讓台兒莊戰場上的池峰城、棗宜戰場上的張自忠孤軍抗敵。
部署完畢之後，湯恩伯致電蔣介石：“軍決以有力之鉗形態勢，包圍由中牟及邙山頭方面進犯之敵於許昌、襄城、禹縣、密縣之間地區而殲滅之。”
二十日下午，日軍第十二軍發布作戰命令，其要點是：攻占密縣附近一帶，摧毀中國軍隊的支撐要點，主力向新鄭推進，準備圍殲湯恩伯部主力。
按照作戰命令，日軍第三十七師團除派遣一支小部隊向密縣方向突擊外，主力部隊沿著平漢鐵路迅速南下直趨新鄭。平漢鐵路兩邊的道路已被中國軍隊破壞，日軍艱難推進。下午，日軍與中國軍隊第七十八軍新編第四十二師以及從中牟撤下來的暫編第二十七師遭遇。中國守軍憑藉既有陣地工事、地堡和壕溝展開猛烈的阻擊，但在日軍的強大攻擊下，新編第四十二師傷亡慘烈，兩名營長和六位連長陣亡，士兵死傷過半。當身後的新鄭縣城已被日軍攻占的消息傳來時，中國守軍只有繼續撤退。一一二十一日凌晨三時，日軍獨立混成第七旅團突擊到了新編第四十二師和暫編第二十七師身後的新鄭城下，拂曉時分向城垣發動攻擊，守城的新編第二十九師和新編第四十二師的兩個團，不敵日軍的猛烈攻勢，紛紛潰退。上午八時，平漢路上的重要據點新鄭城落入日軍之手。
在新鄭城以北阻擊日軍的暫編第十五軍軍長劉昌義，從中牟一路退下來卻心有不甘。二十一日，他指揮暫編第二十七師官兵阻擊了日軍第三十七師團整整一天，日落後，陣地側翼一個名叫緒張村的陣地丟失，導致師部失去了掩護屏障。師長蕭勁認為沒有再阻擊的必要了，建議繼續後退，但劉軍長堅持死守不退。兩人僵持不下，蕭師長帶著暫編第二十七師甩下軍長走了。性格倔強的劉軍長帶著特務連、作戰營還有軍官隊集中在緒張村西面幾百米外的小樹林裡。此時，特務連加上軍官隊僅剩下一百三十多名官兵，作戰營加上配屬該營的迫擊砲排也僅剩下四百餘人。劉軍長說，鄭州和新鄭都已陷落，我們是在敵後孤軍作戰，但湯長官命令我們在此阻敵，我們哪怕牽制住一部分日軍，也能給相鄰友軍減少一點壓力，因此必須與當面日軍拼上一場。侍從參謀陳正風把這五百來人分成兩支衝鋒隊，一支由陳參謀帶領，從緒張村的西口往裡衝；一支由八十六團二營營長胡光耀帶領，從村北往裡衝；軍官隊同時在村南佯攻，軍長帶著特務連當預備隊。但是，劉軍長堅持要親自帶領部隊沖鋒，並要求軍官隊帶頭衝鋒，一方面給士兵做出榜樣，一方面讓當面日軍認為衝鋒的是暫編第二十七師的主力。
晚上九時，衝鋒隊出發的時候，迫擊砲排開砲掩護，但只聽見五聲炮響就再沒了聲息，原來沒有砲彈了。緒張村里的一百多名日軍認為中國軍隊已經垮了，不可能回過頭來打仗，加上行軍疲憊正在睡覺，劉軍長率領官兵衝進來時，村子里頓時一片混亂。這是一場慘烈的白刃戰，百餘名日軍不是被手榴彈炸死，就是被刺刀捅死。戰鬥剛剛結束，村莊的四周突然升起了無數日軍發射的信號彈，劉軍長立即命令部隊向暫編第二十七師師部所在地八崗村轉移。但是，等他們跑到八崗村，卻發現暫編第二十七師已經走了，師部裡空無一人。劉軍長命令特務連去找，結果在村東街口和一股日軍撞上了。這是包圍而來的大股日軍，劉軍長的數百人被圍困在村莊狹窄的街道上無處躲藏，當終於打開了一個缺口突圍而出的時候，很多弟兄沒能跟上來，那些不得不遺棄在八崗村里的重傷員全部被日軍殺戮。
劉軍長帶著殘部向許昌方向撤退，官兵們一路看見的都是悲慘的景象：
黎明時分，部隊從東門進入薛店。此時的薛店較之四天前我們經過時已是面目全非，一片淒涼。鎮內鎮外看不到一個行人，絕大多數老百姓為躲避戰火已遠走他鄉，少數未來得及逃走的全都慘死在日軍的屠刀之下。所有的院門、屋門都被推倒或砸壞，糧食、財物和家禽家畜被洗劫一空。我隨劉軍長走進一座小院，看見一位老漢倒在血泊中，屋內的床上躺著一具披頭散發的裸體女屍。我們又來到大街上，見路當中有幾十堆麥秸，周圍佈滿了洋馬蹄印和許多砲車留下的車轍。
日軍發起會戰五天后，鄭州、新鄭、尉氏、洧川、滎陽、廣武、汜水、塔山、萬山都已接連失守。二十二日，日軍第一一〇師團和第三十七師團第二二五聯隊，分別從東面和北面聯合攻擊密縣。中國守軍蔡劍鳴的第四師和廖運週的第一一〇師對日軍展開了阻擊戰，張文心的第二十三師適時對日軍實施了反擊。此時天降大雨，戰場上一片泥濘，戰壕里的雨水齊腰深。二十三日，日軍第二二五聯隊突破中國守軍的陣地攻入密縣。同時，第一一〇師團繞過密縣，向撤退的中國軍隊展開猛烈追擊。第一三九聯隊的第十中隊，在沒有接到命令的情況下，向密縣北面中國守軍的高地發起攻擊，日軍官兵的作戰狀態幾近瘋狂——“中隊全體成員不顧疲勞和飢餓，敬誦五條聖諭（明治天皇發布的五條規範），欣然衝破黑夜，蹚著暴雨後沒膝的泥水向前挺進。中隊長中島獻夫中尉雖身負重傷，仍堅持不下反復發起衝鋒，終於佔領五二八高地的一角。然而中島中尉於二十三日在五二八高地東側常家附近戰死。”
密縣丟失後，日軍對廖運週的第一一〇師緊追不捨，已喪失戰鬥能力的第一一〇師遭到毀滅性打擊：
登封附近為高山道路，兩旁地形十分險峻。聯隊當夜將廣田中尉指揮的一個小隊派到盧店附近。該小隊搜索到潰敗的敵軍，以刺刀刺殺約一百五十人。挺進隊命第一大隊佔領孫家店東西一線陣地，截擊南逃的敵軍，命三大隊佔領盧店陣地，切斷向西南潰逃的重慶軍七百人的退路，殲滅其中三百人，少將代理師長被俘。
二十四日，中國第一戰區第四集團軍部隊全部退守到滎陽以西的虎牢關、馬駒嶺一線。
日軍第十二軍司令官內山英太郎認為，他已經把黃河河防一線的中國守軍打殘，令其退守到密縣以西的山地中，至少在這個方向上中國軍隊短期內無法發動反攻作戰。於是，他留下第一一〇師團和獨立步兵第九旅團固守虎牢關一線，命令第三十七、第六十二師團以及獨立混成第七旅團、騎兵第四旅團，在坦克第三師團的配合下，沿著平漢路線繼續南下，發起對許昌和禹縣的作戰，完成打通平漢路的作戰目標。
此時，李仙洲指揮的南集團部隊，在連續丟失各個要點後，為了確保重鎮許昌和禹縣，急忙部署阻擊作戰：新編第二十九師等部固守許昌；第二十九軍固守禹縣；第八十一師守衛郟縣；第二十二師守葉縣，其中一個團守襄城；暫編第五十五師守寶豐。
此時，豫中戰局處在一個微妙的時刻：對於日軍而言，各師團連續攻擊數日，加之中原連降大雨，官兵疲憊，戰力下降。二線兵團第二十七師團奉命緊急南下，然而因為暴雨，部隊行軍艱苦，這個從關東軍調來的師團，竟然因為天氣陰寒，數十人被凍死，兩千多人被迫滯留在後方醫院治療。由此可見日軍已出現大縱深作戰的困難。為了彌補戰力的不足和下降，坦克第三師團的加入至關重要，而此刻坦克第三師團尚在向南運動途中。對於中國方面來講，儘管連續丟城失地，但沿著平漢路南下的日軍過於深入，且人困馬乏，如果在日軍坦克第三師團抵達作戰區域前，除了在許昌以北的正面頑強阻擊，甚至適時發動反擊作戰之外，密縣以西的湯恩伯部主力如能迅猛出擊，側擊進犯密縣之敵，甚至直逼鄭州，勢必會令日軍忙於應對南北兩端，不但南攻許昌的計劃將受到干擾，也將被迫輾轉於鄭州以南的狹窄戰場中，雖然是否能夠扭轉戰局尚未可知，但至少可以令戰場局面大為改觀。
可是，湯恩伯部遲遲未動，“良好戰機稍縱即逝”。
第一戰區曾給湯恩伯下過“以第二十九軍全部以第十三軍兩師擊滅密縣之敵”的命令，湯恩伯也曾命令第十三軍暫編第十六師由禹縣向密縣實施反擊，但是，湯恩伯的敷衍僅僅使日軍第一一〇師團採取了守勢而已，於日軍第十二軍對許昌的圍攻作戰沒有產生任何影響。
二十三日晚，日軍第三十七師團突然襲擊了和尚橋，二十四日凌晨攻占新鄭與許昌之間的長葛縣城。
二十六日，日軍第十二軍召開將領會議，認為第一階段作戰已達到目標：突破了黃河防線，佔領了戰略要點，各部隊已推進到預定地域，傷亡也不算大，僅僅陣亡一百四十一人，負傷三十八人，卻打死重慶軍二千四百七十七人、俘虜五百零三人。從整體上看，作戰進展順利。但是，內山英太郎提醒他的將領們，不要認為中國軍隊總是一觸即潰，要實事求是地總結中國軍隊的優缺點，以利今後作戰：
一、敵軍鬥志一般旺盛，我軍發起衝鋒以前，堅持抵抗，並且屢次進行反攻。在正面戰鬥時抵抗尤其頑強，但受到側後方攻擊時則易崩潰。
二、高級指揮官的部署極為迅速，各部隊的行動大致能按命令執行，部隊彼此之間也能保持良好的聯繫，但初期受到我軍突然襲擊，似乎發生了混亂。
三、敵軍撤退，特別是將重武器逐漸後撤阻止我軍追擊的方法，均極巧妙，在撤退時一定要進行反攻或砲擊。
四、大量使用手榴彈，使用地雷則較預料為少。
會議決定了攻擊許昌的作戰方案：以第三十七師團擔任許昌的正面攻擊；第六十二師團在許昌西北的潁橋附近，負責阻擊從禹縣增援許昌的中國軍隊；獨立混成第七旅團在許昌至臨汝的公路以東，負責阻擊從襄城方向增援的中國軍隊；騎兵第四旅團推進到許昌以南，負責截斷中國軍隊的退路，並準備轉向西北方向進至寶豐和臨汝；第二十七師團在許昌東面，與獨立混成第七旅團一起，防止許昌守城部隊向東面和東南面突圍而出，並須在攻占許昌後沿著平漢線繼續南下，與第十一軍北上部隊會合，徹底打通平漢鐵路，之後歸屬第十一軍序列；坦克第三師團負責突擊許昌南門。預定攻擊時間為三十日清晨。
二十九日夜，日軍第六十二師團首先行動，任務是攻占潁河兩岸，以掩護其他攻城部隊進入攻擊位置。
在潁河指揮阻擊作戰的，還是劉昌義軍長。
劉軍長指揮的暫編第十五軍，於中牟縣的黃河邊首先接敵，部隊一路向南邊打邊撤，現在又奉命固守許昌。他的暫編第二十七師基本上打完了，守城任務由新編第二十九師承擔。劉軍長雖曾決心將日軍趕回黃河北岸，但在短短的幾天之內，渡過黃河的日軍已佔領九座縣城，其中的八座在第二十八集團軍的防區內。現在的許昌成為平漢路上最北端的陣地，也是暫編第十五軍的最後一個據點。根據戰前製訂的作戰計劃，許昌附近乃第一戰區與日軍的決戰地域，可湯恩伯只讓新編第二十九師一個師守許昌，著實有點令人費解。可是，既然領受了任務，只能與許昌城共存亡。二十九日，第二十八集團軍司令部下達命令，命令新編第二十九師守許昌，命令劉昌義同時指揮第七十八軍的新編第四十二師和第八十九軍的第二十師即刻開赴許昌外圍潁橋陣地，阻擊日軍向許昌靠近。劉軍長有點捨不得離開自己的部隊，在與新編第二十九師師長呂公良告別後，才帶隊出城。 ——劉昌義軍長不知道，這是他與呂公良師長的永別。
劉軍長帶著幾百人在漆黑的夜裡去尋找新編第四十二師。他本來以為新編第四十二師在靈井鎮，到了那裡才發現，在這個許昌外圍的重要據點上竟然沒有任何中國守軍，新編第四十二師也不知到哪裡去了。三十日凌晨時分，劉軍長才遇到了新編第四十二師的補充團。在向潁橋方向行軍時，突然聽見猛烈的槍砲聲，劉軍長判斷這是從靈井鎮方向南下的日軍，是去攻擊許昌城的。劉軍長立即率部迎敵，在潁橋附近，他終於見到了歸他指揮的第二十師的五十八團，該團是從葉縣向潁河開來的。劉軍長來到五十八團團部，七十九團的一名下級軍官跑進來報告，說該團在潁橋以北的餘張村阻擊日軍，團長劉耀軍陣亡，全團現在只剩下幾十個人了。此時湯恩伯打來電話，命令劉軍長撤退，倔強的劉軍長說他要與日軍在潁橋拼一下，否則就是沒有盡到軍人的天職。
劉昌義指揮第二十師的五十八團和六十團在潁橋一線的阻擊，算得上是整個豫中會戰中少有的像樣的作戰。迎面而來的是日軍第六十三、第六十四兩個步兵旅團。潁橋是一個古老的鎮子，許昌到南陽的公路穿鎮而過，鎮子四周有很高的寨牆，寨牆外潁河環繞，河水雖不深但