衡陽陷落的影響是巨大而深刻的，處於膠著持衡的戰略態勢頃刻間便被改變了，失去了衡陽這個重要的戰略支點的國軍頓時陷入了被動衰落之中。但中國軍事最高當局卻並未從這一事件中清醒地反映過來，擔負救援任務的第62軍、73軍、79軍、46軍、74軍、100軍在最初的一兩天內，顯得手足無措。好不容易打下來的一些衡陽外圍陣地還守不守？還要不要往前打？統帥部都還在困頓之中，部隊也在困頓之中，部隊還沒有接到明確的行動指令。
是守還是阻擊，都應當有新的陣地、新的工事構築和新的地形態勢；是撤還是轉移，都應當趕早行動，與日軍要拉開距離。統帥部還在猶豫，救援衡陽雖然失敗，但通過數天的戰鬥，畢竟取得了一些戰果，構成了極其有力的攻擊態勢，比如箝制了湘江兩岸日軍側後的聯絡線，佔領了一些有力的戰役支點，如果善於利用和擴大這種態勢，必然會陷攻克衡陽的日軍成為孤軍。
但如果不積極行動，這些有利的態勢就會喪失和改變，陣地的主動權就會丟掉。但所有的這些有利條件對於當時的中國軍隊來說，只能是“雞肋”，這些有利的態勢需要大量的兵力投入才能加強和鞏固。但失去了衡陽，這個據點堡壘，兩方面的力量已經發生了根本性變化，日軍已不出在腹背受敵的危險境地了。這只食之無味、棄之可惜的危險“雞肋”應當趕快丟掉，國軍主力應該盡快縮回廣西，及早準備迎擊日軍的下一波衝擊。
就在衡陽陷落後的第二天，在日軍中素以謀略專家著稱的島貫大佐已經完成了其衡陽外圍作戰的第一期計劃。島貫受過系統的西方現代軍事理論教育，專攻指揮大兵團作戰，擅長對包抄切割對方兵力，形成大包圍，大殲滅戰的理論研究和圖上作業。
1942年以前的日軍大本營曾派他專門在歐洲戰場考察德軍對英法聯軍、對蘇聯紅軍實施大殲滅戰的成功經驗，回國後他針對西伯利亞廣袤的原野做了無數次聚殲蘇軍的兵棋演練。但後來由於國際局勢發生了很大的變化，促使日本帝國祇能南下對美開戰，而不能北上，於是，島貫學非所用，他唯一的夢想就是看能不能打一兩個對國軍的殲滅戰。
計劃一出籠，島貫便促使中國派遣軍司令部趕緊實施。他只要求完善他的戰略設計，、而毫不照顧實際作戰部隊的實際困難。島貫的第一期計劃是將衡陽周圍的國軍15個野戰師來個“一鍋膾”。他認為這15個師如果在近期不能解決，就會進入廣西，成為下一步入桂柳作戰的阻力。在本期作戰中殲滅這一部分中國軍隊，“可以看作是解決了湘桂作戰前一階段的關鍵，進而可在第而階段作戰時一舉攻克桂林、柳州。
大本營以最快的速度批復同意了島貫的報告。中國派遣軍總司令部卻認為島貫是一個讓大本營寵壞了的“天之驕子”。中國派遣軍總司令煙峻六大將還是堅持讓疲憊不堪，剛從險境中僥倖獲勝的日軍做了一個短期休整。
蔣介石在衡陽陷落一周後，終於作出了安排：“派第79軍接防衡陽近郊任務；第46軍調回廣西，歸還第四戰區建制；第62軍待交防後，在洪橋集結待命……”
蔣介石的這個命令是讓國軍部隊退出衡陽戰事，但已經為時已晚了。第79軍剛接防到第62軍、46軍的陣地，立足未穩，日軍第二天便包抄夾攻過來，一路突進，第79軍防線太長，防守未及一天便敗下陣來，全線崩潰。第62軍剛交防一天，才向洪橋行進，日軍便追擊上來。第62軍的157師被包圍，好不容易鑽出重圍，這樣一路緊跑，日軍則一路緊追，跑到洪橋時根本無法立足，以前構築好的陣地也只好放棄。之後，日軍抄近路，部隊只有倉促應戰，殺開血路後撤。一路日軍則直插洪橋到祁陽的道路，部隊只有鑽山路小道，輜重全部丟棄。第46軍一個師被堵在了鐵路以東，部隊失去控制，軍找不到師，師找不到下屬個部隊，只好各自突圍。第79軍情況更糟，被日軍一路追著打，一直到祁陽以東才收住腳步。
這時，第79軍和46軍接到軍委會命令，到冷水灘湘桂鐵路附近及其以北地區佔領陣地，阻擋日軍部隊進攻。日軍也毫不停歇，立即兵分三路，中路日軍2個師團沿湘桂鐵路向冷水灘方向開來，右路1個師團由衡陽出發經寶慶邊界蘆洪市向東安縣方向進發，左路2個師團也由衡陽出發，溯湘江而上，直插零陵。顯然，第79軍和第46軍的防守側翼受到左右兩路日軍的包抄夾擊，第62軍已經從洪橋北側的山區轉向武岡方向，一時難以收攏回來。
於是，第79軍、46軍兩個軍只好匆忙構築工事防禦。但喘息未定，9月2日，日軍主力部隊已經沿湘桂鐵路北來，與前沿部隊接了火。激戰兩日，雙方互有傷亡。日軍向零陵方向前進的兩個師團已經越過祁陽以南地區的湘江西岸；由保慶方向向東安前進的日軍，其先頭部隊已經越過蘆洪市。這兩路日軍已經形成對第79軍和46軍的包圍態勢。第79軍軍長王甲本下令各部隊撤離陣地向東安縣方向轉移。
9月6日晚，第79軍軍部在東安縣玉七亭附近與日軍包抄部隊遭遇，軍指揮部受敵****擾。王甲本軍長命令本軍第98師292團掃清前進障礙，佔領山口鎮，以保證軍部安全通過。但第292團團長王卓如行動遲緩，貽誤戰機，山口鎮被日軍側翼騎兵搜索部隊搶先佔領。當此危急時刻，王卓如未能及時反擊，也未能將情況報告反饋到軍部。
9月7日天剛破曉，第79軍軍部先頭部隊手槍連已通過玉七亭坡下到山口鎮東側的平緩地帶。王甲本率軍部人員及直屬部隊以單行縱隊在後跟進。剛過玉七亭下坡，一軍部參謀在望遠鏡裡看到山口鎮村莊有無數高頭大馬疾行而來，雖然已經命令王卓如團佔領山口鎮，但哪裡有這麼多騎兵？
王甲本將軍等人停駐下來，感到情況不妙。頃刻間，手槍連已經與日軍騎兵部隊接上了火。軍部佇立的一干騎馬人員立即成為日軍騎兵部隊攻擊的目標。其中，王甲本中將的目標最為突出。日軍的機槍火力集中向玉七亭坡下掃來，同時，日軍騎兵一部一路直奔王甲本軍長一行而來。
王甲本與副官們急忙還擊，撥馬撤至玉七亭東側，身邊只剩下侍從副官吳鎮科，王甲本已經中彈負傷。但他行伍出身，鞍馬嫻熟，依然還擊不綴，被日軍10餘騎團團圍定。王將軍負傷墜於馬下，仍然與日軍騎兵作殊死搏殺。待部下找到他的遺體時，但見他渾身多處盪傷刀痕，面部受到重創，雙手被刀鋒絞得血肉模糊，顯然是與日兵搏鬥到最後一息。吳副官也殘死刀下。
官兵們含淚收鹼了王甲本軍長和吳副官的遺體。因戰情危急，只好就地草草埋葬在山口鋪東北側的芭蕉村張家衝後山坡上。
王甲本將軍時年43歲，雲南講武堂畢業，在滇軍中頗有功名。在抗戰中，身為高級將領，與敵徒手搏鬥而壯烈犧牲者鮮有此例。
第79軍就此在冷水灘以西全部陷入日軍包圍；第64軍受創後且戰且退，向武岡轉移。
由於軍長犧牲，第79軍在第98師、194師師長率領下向北突圍。但連續衝擊4次，均未奏效，部隊傷亡慘重。日軍的包圍圈越縮越小，時間緊迫，部隊乃改向東面突圍，兩位師長互相配合，用佯攻調動日軍兵力，第194師師長龔傳文發現陣地東北角，有一條水溝，自東北流向西南，形勢非常隱蔽，經偵察日軍對這條水溝沒有佈置火力封鎖。於是，龔師長馬上命令部隊行動遠離這條水溝，以免引起日軍的注意。入夜後，在當地嚮導的帶領下，以師部搜索營為先導，順水溝摸行，第194師終於突出重圍。第98師用突擊隊攻擊日軍東面比較薄弱地段，打開缺口後，再向兩邊打，擴大缺口，部隊突出後，迅速向東轉移，一抹一轉折，第98師也艱難地突出重圍。
日軍稱他們這次行動為“洪橋會戰”。日軍戰略目標的橫掃面涉及湘桂鐵路沿線，湘南及湘西南10多個縣。日軍擺開打大殲滅仗的架勢，迂迴包抄，穿插追擊，所到之處，橫衝直撞，如入無人之境。這些日軍皆是剛從衡陽撤下來的部隊：第3、第13、第37、第40、第58、第68、第116師團。打下了衡陽，這些部隊的戰鬥力和精神狀態好像得到了迅速修復。恢復了他們對國軍部隊作戰時的貫常的驕橫鹵莽，攻擊和包抄有如一號作戰計劃第一階段那樣的迅捷和麻利，唏裡嘩啦地衝斷了國軍的三道防線，即衡陽外圍防線、洪橋防線、冷水灘防線。國軍的第62軍、第79軍、第46軍、第100軍均受到重創。在此會戰之前，這些部隊都是具有攻擊能力的生力軍。但此後轉入桂柳作戰後，都呈現出兵員短缺，武器破損，裝備丟失，士氣低落，很難當一支獨立的部隊來使用了。但是島貫大佐要打一個殲滅戰的計劃也沒有實現，除了擊潰和重創國軍部隊外，全殲一個團的記錄也沒有。