長衡會戰的第一個回合下來，湘北之戰日軍優勢盡佔，國軍大敗虧輸。好一陣子直弄得不但是兵們抱頭亂竄，尉找不到校，校找不到將，就連將也找不到帥，第九戰區長官司令部都搞不清楚自己各個軍的具體位置，戰區主力各軍被擠壓到湘贛邊的崇山峻嶺之中。而奉蔣委員長命令前來配合協同作戰的第六戰區之王耀武的第74集團軍又被日軍阻隔在湘江西岸。蔣老頭子和國軍統帥部的戰略部署形同一紙空文，如何執行得了！
薛岳原本就沒有打算有湘南之戰，也就是說根本不會有什麼衡陽保衛戰。長沙都大捷了，還用保衛衡陽，哪來的衡陽保衛戰。所以，才會有第10軍匆匆忙忙來守衛衡陽。工事還沒挖好，又要預備第10師北上淥口；部隊剛上火車出衡陽到茶山坳又接到不用出衡陽的命令；原本有桂軍新編第19師協同第10軍守衡陽，剛挖好外圍工事，又將第19師調往全州作桂林的外圍警戒部隊……總之是令出多門，朝令夕改，叫人無所適從。
方先覺臨時受命率第10軍守衛衡陽，接到固守衡陽的命令時，居然沒有人給他通報湘北的戰況和大局。好在方將軍久歷疆場，經驗老到，一面命令第3師滯留衡山一帶阻敵快速推進，掩護其他各師加緊構築野戰工事；一面動員空城，堅壁清野，儲運戰備物資，要不然，還不知到這衡陽怎麼守法呢！
當6月18日，長沙失守的消息傳到衡陽時，方先覺正在市郊外圍陣地視察防禦工事修築情況。只見葛先才師長匆忙跑來報告說：“軍座，長沙已失！”
方先覺頗感突然，說：“怎麼這麼快就丟了長沙？這個張德能怎麼搞的！號稱'鐵軍'的堂堂的國軍王牌第4軍就這麼點鐵性？當年北伐時所向披靡，銳不可擋呀！”
葛先才也露出複雜的神情來：“此一時，彼一時啊！他老張這回是將臉丟盡了。外面又該會有人質問校長了：此人何德何能，你讓他挑如此重擔！？”
方先覺感嘆道：“張將軍也是有戰功的。這次陰溝裡翻船一日而丟長沙，還不知道能不能保住性命啊！”不覺頓生兔死狐悲之感。
葛先才擔憂地問道：“軍座，你以為日軍何時會進攻到衡陽城下？”
方先覺說：“應該沒有那麼快吧！快則月底，慢則下月初。藝圃啊，我軍重武器不足，你要想法多弄點手榴彈回來。看來，這次日軍是下了血本，衡陽是戰局的關鍵點，他們肯定會拼命爭奪！”
“得令！”葛先才不失本色幽默地拖腔答曰。
然而，方先覺的推斷還是太樂觀了點。 6月23日，日軍第68師團的先頭部隊已經到達衡陽市北郊的泉溪寺。接報，方先覺不禁大吃一驚，趕緊命令本軍全體進入臨戰狀態，外圍部隊邊大邊退，阻擊日軍進攻步伐。可是，日軍卻於6月24日繞道衡陽城以南約10公里的東洋渡迂迴前進，隨即渡過湘江，與從湘江西岸攻擊而來的第116師團將衡陽合圍起來。
第二天，方先覺在晚上召開的軍事會議上憂心重重地說：“各位袍澤，我軍在長沙外圍沒有打好，長沙一日之間易主，衡陽一下子就成了一座孤城！因此，我們一定要重視，切不可掉以輕心！首先要打好外圍仗，打出士氣來，打出氣勢來！不能讓小鬼子小瞧了我們！大家放手去打，城中糧食不成問題，彈藥支持十天半月也沒有問題！”
6月26日，日軍第68師團即向北推進到了衡陽西南近郊黃茶嶺。 27日，岩永汪的第116師團也推進到了衡陽市西郊汽車西站附近。這一晚，橫山勇可睡了個好覺。戰局發展順利，一切盡在掌握中。衡陽只有支那一個殘破不全的軍，周邊方圓100里內再無其他中國軍隊。以兩個主力師團攻占衡陽，不敢說像長沙一樣，一日而下，三日總算足夠的啦！
橫山勇舒服地躺在床上，想著自己的神機妙算正在一步步實現，感到全身輕鬆，不久便進入夢鄉。
6月27日上午，日軍第68、第116兩個師團按計劃向衡陽城發起總攻。橫山勇正在長沙悠然自得地欣賞著剛剛搜刮來的字畫古玩，等待著前線傳來的捷報。但衡陽前線的電報，直讓橫山勇兩眼發黑：原來，就在不久前的10點30分，第68師團長佐左久間為人中將、師團參謀長原田貞三郎大佐等一大批將佐在前線觀察敵情時，被國軍迫擊砲彈擊中，死傷慘重，第68師團整個指揮系統陷於癱瘓。
橫山勇見勢頭不對勁，趕緊命令道：“立即電告岩永汪將軍，要他立即接過第68師團的指揮權，指揮兩個師團繼續猛攻衡陽城。要不惜一切代價，保障三天之內如期攻占衡陽！”
下完命令，橫山勇在長沙的指揮所裡轉來轉去地琢磨這第68師團長的人選。志摩源吉應該是一個人選，但是他不堪大任，只是一個決死隊隊長的材料。琢磨來，琢磨去，最後還是決定向畑俊六建議，把現駐無錫的第55旅團長提三樹男調來。提三樹男是橫山勇的老鄉，但這是其次，主要是提三樹男能夠很好地把握大局，且十分擅長攻堅作戰，這麼做，於公於私好交代。
岩永汪這回沒有上次進攻常德那麼好的運氣，指揮兩個師團多的兵力，直大戰至7月1日，4天只推進了不到1公里，傷亡卻大大超過2000人。
橫山勇這時才感覺到有些失算，沒想到衡陽這麼難打。他原想將衡陽作一個魚餌，吸引薛岳的主力前來解圍，然後指揮第3、第13、第27、第40等4個師團的優勢兵力全殲薛岳第九戰區的主力。如果薛岳不上當，拿下衡陽對下一步入桂作戰也是大有好處的。再說，如果不迅速拿下衡陽，恐怕會將精銳的中國遠征軍從緬甸吸引回來。要是那樣的話就麻煩大了。
橫山勇不是逞匹夫之勇的人，他精明過人，在綜合各方面因素後，當即於7月2日夜即5下達了停止進攻衡陽的命令，並把下次進攻的時間定在7月11日。他認為部隊整訓、補給需要一個星期的時間。
然而，橫山勇已經無法按自己的思路來進行本次作戰了。