1947年12月23日夜，南京蔣介石官邸。
蔣介石陰沉著臉，茫然地望著牆上的地圖，沉默無語。
自從內戰開始，蔣介石恨不得能在一夜之間把共產黨斬盡殺絕。現在隨著時間的流逝，國民黨在多次戰役中連連失敗，損兵折將幾十萬，使他惱怒至極。正因為此，他全殲共軍的慾望也越來越強烈。
眼下，劉鄧、陳粟、陳謝三支大軍在中原大地上，鼎足而峙，互為犄角。
“毛澤東要幹什麼？”蔣介石久久地佇立在地圖前，思慮良久。
第二天，蔣介石飛抵漢口參加會議，主持統帥部召開的“大別山區剿匪檢討會議”。
國民黨的高官顯要幾乎都出席了會議，因不久前在中原戰場的幾次失手，他們心中都籠罩著一層陰影，以致會議氣氛相當沉悶。
蔣介石與到會的武漢行轅、九江指揮部，以及第5綏靖區等所屬的高級軍官們幾經商議，終於確定了重點分區防禦與進剿相結合的戰略。根據這一戰略考慮，國民黨軍統帥部調整了中原地區的戰略佈局，即：
將華中（中原）戰區劃分為第4（開封）、第5（信陽）、第6（商丘）、第8（合肥）、第13（南陽）、第14（阜陽，後移新鄉）、第15（襄陽）、第21（宜昌）等8個綏靖區，每個綏區轄3～5個旅，擔任各戰略要點的防禦。
以陸軍總部徐州司令部司令官顧祝同所屬、國防部長兼國防部九江指揮部主任白崇禧所屬、武漢行轅主任程潛所屬主力部隊，組成邱清泉兵團、胡璉兵團、孫元良兵團、張軫兵團、張淦兵團，分置於大別山、江漢、桐柏地區，津浦、隴海、平漢之間的豫皖蘇地區，機動作戰。
另外，以西安“剿匪”總部胡宗南指揮的裴昌會兵團（第5兵團）置於豫陝鄂地區的隴海路潼（關）洛（陽）段。
這樣，國民黨軍正規部隊在華中戰區的總兵力為37個整編師，連同非正規軍，共86個旅，66萬人。其作戰要旨是：保持津浦路，以平漢、隴海鐵路為依托，集中兵力分割中原地區的人民解放軍，阻止劉鄧在大別山建立根據地，以確保南京、武漢，並加強長江防線和大巴山防線，防止各路大軍南渡長江和西出漢水。
要迫使國民黨改變中原的戰略部署，就必須調動和分散國民黨在中原的優勢兵力，以利於中原三軍互相配合，適時集中兵力，尋機分批殲敵。
中央軍委鑑於以上考慮，決定組織以陳毅為司令員和政治委員的東南野戰軍，繼劉鄧野戰軍千里躍進大別山區之後，實行第二個戰略躍進。由粟裕任東南野戰軍副司令員和副政治委員，並兼東南野戰軍第l兵團司令員和政治委員，葉飛任第l兵團副司令員兼副政治委員，金明任第二副政治委員，張震任參謀長，鐘期光任政治部主任，率第一、第四、第六縱隊經充分休整後，先行渡江南進，在南方數省執行寬大機動作戰任務，以躍進方式分幾個階段到達閩浙贛邊區，以吸引中原國民黨軍80多個旅中的20～30個旅回防江南。還擬於翌年初以華東野戰軍第三、第八、第十縱隊組成東南野戰軍第2兵團，渡江南進。
遵照中央軍委的指示，粟裕率華東野戰軍第一、第四、第六縱隊，於1948年2月下旬至3月上旬，轉移到黃河以北進行整訓，為執行渡江南進的戰略任務作準備。
劉鄧野戰軍除留一部兵力堅持大別山斗爭外，指揮部率主力於2月底北移淮河、沙河之間休整。
華東野戰軍第十縱隊和晉冀魯豫野戰軍第十一縱隊越隴海路南下，在完成護送補充劉鄧野戰軍新兵的任務後，暫留沙河與隴海、津浦路之間機動作戰。
陳唐兵團第三、第八縱隊與陳謝集團在平漢路兩側休整。
這時，西北戰場局勢卻發生了令蔣不安的大變化。
1948年2月下旬，彭德懷指揮西北野戰軍開始了春季攻勢，主力轉入外線作戰，在宜川、洛川地區對胡宗南部發動了強大的進攻。
胡宗南接宜川守敵第76師24旅被圍的告急電後，急令劉戡率整編第29軍所屬整編第27、第90師和第158團前往增援。
西北野戰軍獲知援敵動向後，遂集中主力於瓦子街以東的南北有利地形設伏待機。當劉戡所部進入伏擊圈後，西北野戰軍第一、二、三、四、六縱隊在彭德懷統一指揮下，突然發起攻擊，將進入伏擊圈的部隊割裂開來，並集中力量逐一對其進行殲滅。經兩天激戰，將援敵1個整編軍軍部、2個整編師師部、4個整編旅8個團全部殲滅，並乘勢攻占宜川，再殲敵1個整編旅2個團。宜川戰役成功地運用了“圍城打援”的戰法，共計殲敵2.9萬餘人，繳獲了大量軍用物資。
蔣介石手拿胡宗南的電報，電報中的每一個字都深深地刺痛了他的心：“宜川失利，29軍精銳耗盡，劉戡軍長等國軍高級指揮官以身殉職，關中危急。”
29軍是胡宗南在西北地區的重要機動力量，該軍被共軍吃掉後，對西北戰場的局勢影響很大，西北戰場的國軍將陷入被動。這樣，西北共軍南進渭北、西扣隴東的門戶已經打開。
蔣介石大為震驚，驚痛不已。他在自己的行宮里呆不住了，匆匆趕往國防部，並立即召集國民黨軍統帥部人員訓話。
蔣介石在數落了一通手下的這些國軍高級指揮員的不是之後，嘆息道：“宜川喪師，不僅為國軍剿匪最大之挫折，而其為無意義之犧牲，良將陣亡，全軍覆沒，悼痛悲哀，情何以堪！”
在場的每一個人幾乎都被他的情緒所感染，心裡皆為國軍在西北的失利和劉戡等高級將領的殉難而傷感。
蔣介石當著眾部下的面大罵自己的得意門生胡宗南，並當即決定，將胡宗南撤職留用。這樣，西北戰事暫由西安綏署副主任裴昌會協同被革職的胡宗南負責指揮。同時，為了安撫其他國民黨高級將軍和死者家屬，蔣介石還下令追授劉戡和整編第90師師長嚴明為國民黨陸軍上將。
由於西北戰場形勢的變化，也影響到了中原地區國民黨防禦體系的穩定。西安綏署為挽救危局，報請蔣介石同意，急調位於潼關、洛陽間的裴昌會兵團的整編第1、第30、第36師西援。蔣介石為鞏固西北，還指令將徐州地區的整編65師及開封地區的整編38師空運西安，增防關中。另外，為防鄭洛交通被斷，又調守備平漢路的孫元良兵團集結鄭州。這就為人民解放軍攻取洛陽及臨汾等地創造了條件。
此時，鄭州至潼關間的四百公里地段上，敵只剩下正規軍一個師駐守洛陽。
陳賡和謝富治分析了當前的形勢後認為，目前可集中兵力並有充裕時間，在敵救援洛陽之前，拿下被敵人視為“金城湯池”的要地——洛陽。為此，3月6日，陳謝將進攻洛陽的計劃和部署，報中央軍委。
3月7日，中央軍委復電，決定以陳謝兵團的第四、第九縱隊和華東野戰軍的第三、第八縱隊，並當地地方武裝，在華東野戰軍參謀長陳士榘、政治部主任唐亮統一指揮下，奪取洛陽並殲滅孫元良之援兵。
接電後，陳唐、陳謝四首長在陳謝兵團指揮所駐地襄城，召集有4個縱隊的領導參加的軍事會議，具體研究部署洛陽戰役。
會議室設在原國民黨襄城保安團的一個食堂裡，牆上掛著一張剛從敵人手裡繳來的地圖，上面已勾畫出幾個大大的紅色箭頭。陳士榘和陳賡站在地圖前比比划划，研究問題。
陳士榘首先傳達了中央軍委的電報，之後說：“請陳賡司令員講講打洛陽的目的和原則。”
“好，我就先講，爾後請陳參謀長下達作戰命令。”陳賡爽快地說：“威震西北的宜川大捷，給了蔣介石沉重一擊，中原戰場之敵4個機動兵團十分驚慌，已如困入籠中之鳥。裴昌會兵團因宜川失利，已急援西安，目前無力東顧洛陽。從鄭州南下的孫元良兵團，察覺我主力部隊正在集結，怕我直攻鄭州，像烏龜一樣縮了回去。胡璉兵團在漯河，距洛陽尚有7天行程。而遠在魯西南菏澤地區的邱清泉兵團，現有回師隴海東段的跡象。目前，敵人的戰略要點洛陽已經完全陷於孤立狀態，西無援兵，東怕生非，南距較遠，是我軍進攻洛陽的好機會。”
陳士榘插話：“機不可失，時不再來呀！”
陳賡繼續說：“對！洛陽現在的守敵只有青年軍206師和部分保安團，不足2萬人，我們集中4個縱隊，以絕對優勢直取洛陽，是完全能夠迅速解決戰鬥的。攻打洛陽，對豫西根據地的建立和中原戰局的根本改變，都有著重大的意義。打下洛陽，豫陝鄂新區就與黃河北岸的老區連成一片，我們就有了深遠的後方，對於儘早消滅中原的敵人，對於積累攻打大城市的經驗，無疑都具有較高的戰略意義。”
等陳賡說完後，陳士榘拿著一根竹棍走到地圖前，在洛陽兩字上狠狠地敲了幾下：“我們攻打洛陽，在戰術上不可輕視敵人，在戰役手段上，採取既有重點，又有寬大正面的原則，實現四面圍攻，以絕對優勢的兵力、火力放在主要突擊方向上，保證連續的突擊、分割、包圍，達到全殲敵人的目的。”
陳賡插話：“對敵人殲得越徹底，越能對中原敵人的4個兵團構成威脅。”
最後，陳士榘宣布任務：“本次戰役的具體任務劃分如下：陳謝第四、第九縱隊除以一部兵力配合太岳第5軍分區地方武裝，控制新安、宜陽，掃蕩殲滅新安、澠池土頑地方武裝外，主力於9日24時前完成對洛陽西工及飛機場及西關、南關之敵的包圍，首先切斷西工與洛陽城之間聯繫，或首先解決西工及西關之敵，使其不能退縮城內。”
“華野第三縱隊於9日24時前完成對洛陽車站、北關、東關之敵包圍，力求首先解決洛陽北站和東關之敵後，以便主力攻城。”“第八縱隊除以一部奪取並控制黑石關至偃師之間兩側陣地外，主力於8日黃昏前進至回郭鎮、堤東、府店鎮、維氏鎮之間地區作預備隊，負責阻擊可能由鄭州西接洛陽之敵。”
陳賡接著補充說：“22旅留在葉縣、舞陽、襄城地區，以沙河為基線，監視、牽制敵18軍的行動，如果敵人西援，要節節抗擊，遲滯敵人。”
洛陽是中原戰略要點，它位於黃河中游，河南省的西部，北依邙山，南臨洛水，地扼秦、晉、豫三省要衝，是鄭州與西安之間的聯絡中心，為歷代兵家必爭之地。洛陽也是一座歷史名城，為中國五大古都之一，有九朝都會之稱。國民黨反動派曾經把這裡定為“陪都”，在政治、文化、交通等方面都具有相當重要的地位。
解放戰爭開始後，蔣介石更是把洛陽作為扼守中原的重鎮，認為只要在豫西守住洛陽，就可使隴海路暢通，就有了立足之地。為此，在美國軍事顧問團的指導下，洛陽的防禦工事已經建成了半永久性的堅固城防，被蔣介石稱為“金城湯池”。
其防禦體系的特點是：在城牆外圍的突出部設有主陣地，與堅固房屋或山包、土丘、溝壑相連，形成堡壘工事。在城內的洛陽中學構築了核心陣地。該陣地的每個堡壘工事均以母堡為核心，伸出多個子堡，以地堡和明暗堡相交叉，以交通壕或地下通道相連接，進可以攻，退可以守，並在地下隱蔽處設立了密集的火力點，互為犄角。互相照應，既可交叉射擊，也可獨立環顧左右。在每個堡壘工事和主要的子堡中，配有火砲、重機槍等重裝備，分段分區監視封鎖通道。在核心陣地外圍築有外層陣地，修築了外壕、鐵絲網、鹿砦、地雷區等多層障礙。
國民黨軍洛陽城防不可謂不堅，但隨著洛陽外圍地區敵軍機動兵團調走，洛陽守敵陷入了孤守的境地，所以當陳謝、陳唐大軍突然向北移動，集結於襄城、禹縣一帶時，引起國民黨軍的極度恐慌，幾日內，蔣介石接連收到兩份急電。
一份是國民黨陸軍鄭州指揮部孫震拍發的，言稱：“近察明，共匪陳謝、陳唐兩路大軍，已向北進發，有切斷平漢、隴海路的交點鄭州之圖謀，我斷匪可能會犯鄭州。如是，可在三五日內抵鄭附近。”
另一份是駐守洛陽的青年軍206師師長邱行湘拍發的，電文是：“共軍陳謝、陳唐兩路大軍，正急速北進，已在襄城、禹縣一帶集結，可能有犯洛陽之意。我監匪之情，將隨時禀報。”
同時收到兩份互相矛盾的電報，蔣介石陷入沉思，他認為解放軍北進確鑿無疑，但對解放軍是攻鄭州，還是攻洛陽一時拿不定主意。他站在地圖前沉思了很長時間，最後還是把寶壓在了洛陽。雖然他一向認為洛陽城堅，但面對解放軍4個縱隊的攻擊，蔣介石也覺把握不大，於是他下令邱行湘到南京議事。
邱行湘是黃埔軍校第五期畢業的，曾擔任過陳誠的隨從副官，在東北戰場頗有作為，深受蔣介石寵信。
1947年11月底，當時陳唐率部一路破敵，曾逼近洛陽，蔣介石對連吃敗仗的原206師師長肖勁大為不滿，立即將其革職，並委重任於邱行湘。
蔣介石一見邱行湘的面，就關切地問：“洛陽是中原與西北聯繫的要點，一定要作長期固守的打算。你對堅守洛陽有幾分把握？”
邱行湘誇口說：“委座放心。除非天塌地陷，洛陽萬無一失。”
蔣介石很欣賞這位昔日高徒的勇氣，鼓勵說：“洛陽的地形很好，易守難攻……洛陽的邙山、龍門、西工都非常重要，必須加強工事，研究防守。”
最後，蔣介石不無淒涼地說：“軍事的成敗，關係到黨國的安危。如果不打敗共產黨，我們將死無葬身之地。你是經國一手提拔起來的，應在困難時共赴國難，望你不負所望。為了便於你統一指揮洛陽守軍，我現任命你為'洛陽警備司令'。”
邱行湘感激地接受了主子的封官，並堅決地回答說：“委座的訓示，學生刻骨銘心，我邱行湘不成功便成仁，絕不辜負委座的栽培！”隨即，他便帶著主子的訓示急沖沖地趕回洛陽鎮守。
邱行湘一聽說人民解放軍已逼近洛陽，就加緊了對洛陽及周圍地區的防禦。他吸取了國民黨軍在東北四平及山西運城作戰失利的教訓，利用洛陽城周圍群山丘陵懷抱，城高壕深，土質堅硬、易守難攻的地形特點，以永久性的低平隱蔽工事為主，並配以多重交叉火力和倒打火力，構成嚴密的環形防禦體系。
儘管邱行湘206師屬下，現僅有5個整團，外加4個砲兵連、3個保障營和1個汽車營，但其人員近2萬，且為蔣朝“太子”蔣經國一手訓導，官兵思想頑固，武器裝備也全為美式，實力強勁。
這時，坐鎮徐州的國民黨陸軍總司令顧祝同，從有關偵察報告中獲知，中原地區的人民解放軍正向洛陽附近地區集結，有攻取洛陽徵候。為防患於未然，他即刻命令位於平漢鐵路許昌、漯河地區的整編第47軍，整編第18軍，統歸陸軍總司令部鄭州指揮部主任孫震指揮，集結待命增援洛陽。隨後，整47軍主力即北開鄭州，並將2個旅車運汜水、黑石關一線。整18軍則向許昌集結。
正當邱行湘忙於完善洛陽的防御之機，孫震便給他發來了電報，一方面通報，“豫西共軍主力約4個縱隊連日由襄禹地區北進，有犯洛陽企圖，且孫、胡兩兵團已向洛陽開進”，另一方面要求該師應“固守洛陽既設陣地，並協同外圍兵團聚殲來犯之敵”。不久，鄭州指揮部副主任張士希又多次打電話向邱行湘催問洛陽的備戰情況，並鄭重聲明，蔣委員長要求他“在洛陽至少應堅守一個月”。
邱行湘十分反感上方的指手劃腳，便沒好氣地回答鄭州指揮部說：
“守一天算一天！”
陳謝、陳唐所屬各縱隊接到進攻洛陽的命令後，迅速逼近洛陽。
王建安司令員率領他的華野八縱，馬不停蹄，直奔偃師與黑石關，準備阻擊洛陽以東的援敵。
黑石關位於黃河以南，嵩山山區之北，扼隴海鐵路鄭州與洛陽段的交通咽喉。這里地形險要，前有黑石山屏障，下有橫跨洛河的鐵橋，是名副其實的戰略要地。攻防雙方，均必爭奪。佔領後退則易守，攻則易進。八縱阻擊敵人援軍，首要一著，是奪取並控制黑石關，炸斷鐵橋。
奪關炸橋的任務，交給了第八縱隊22師65團。
65團經過連續4天的長途奔襲，於3月7日進至黑石關以南的芝田鎮，這裡離黑石關不遠了。
孫震和國民黨軍第47軍軍長孫元良，非常重視守衛與控制黑石關。平時，為著鄭州的安全，總是放著一部兵力，把守黑石山與黑石關。孫震奉蔣介石之令，統一指揮援軍後，更加重視黑石關。他意識到，解放軍為了阻擊援軍，勢必要搶奪黑石關；如果不保住黑石關，國民黨軍隊的援洛之路就會被封死。他與孫元良商量，一面命令黑石關守敵加強戒備，一面命令增派一支援兵，火速趕往黑石關。
黑石關的守敵接到命令，又得知共軍先頭部隊已到達芝田鎮，立即緊張起來，加派了崗哨，隨時準備作戰。
當日晚，第65團向黑石關發起進攻，沒有攻下。第二天，援敵第127旅第379團到達黑石關。當夜第65團再次發起攻擊，仍然沒有攻下黑石關。
第八縱隊23師的任務是，攻占偃師，並依據有利地形構築工事，於洛河以北、黑石關以西地區，阻擊敵人向西增援洛陽。
要攻占偃師，必須先渡洛河。這一段洛河，水深流急，沒有船沒有橋是過不去的。
3月8日夜，23師強渡洛河，並進占偃師。
考慮到23師已經渡過洛河，王建安果斷決定：第八縱隊立即停止對黑石關的攻擊，並於黑石關以西、芝田鎮一線，跨洛河設陣，阻擊由鄭州西援之敵，並向登封方向派出偵察警戒，以掌握胡璉兵團來援情況。
第九縱隊也於7日晚襲佔新安，太岳第5軍分區部隊則於9日克澠池，控制了阻擊可能由潼關東援之敵的陣地。
3月9日，第三、四縱隊秘密渡伊河、洛河向洛陽奔襲。
傍晚，第三縱隊第23團在石一寰率領下，以遠距離奔襲手段一舉攻占洛陽東關。
接著，第三縱隊9師也突入了北關，並佔領了東西車站，取得了攻城依托。
3月9日黃昏時分，華東野戰軍三縱隊在司令員孫繼先的率領下，包圍並殲滅了東關、北關、東西兩車站及九龍台、美國醫院等要點之敵，奪取了攻城的依托。
此時，陳謝兵團第四縱隊從城西和城南進攻，以突然動作肅清敵屯兵場西工和西關之敵，切斷了敵軍城內與城外的聯繫，並攻占了洛陽的門戶周公廟和西工發電廠。
至此，洛陽外圍之敵被肅清。
在外圍作戰期間，由鄭州西援的敵孫元良兵團主力，已於9日到達黑石關一線，並以整編第47師第125旅經密縣向登封前進，試圖與胡璉兵團會合後並肩西援。但因胡璉兵團尚未到達，孫元良兵團不敢冒進，每天僅以一部兵力向第八縱隊作試探性進攻。
根據外圍戰鬥和援敵被遲滯的情況，陳賡即決定，以少數兵力對外圍殘敵據點進行圍控，並繼續監視援敵，集中主力開始圍攻城內之敵。
為了掌握洛陽城內敵設防具體情況，陳賡等戰役指揮員指示司令部一面進一步對洛陽城內進行詳細偵察，一面加緊對俘虜的蔣軍官兵進行審訊。各方面的情況很快綜合匯總到陳賡等戰役指揮員面前。
針對敵人的工事構築與設防情況，陳賡等戰役指揮員經研究決定，採取多點突破，選擇順利方向，連續攻擊的戰法。各縱隊的攻城部署為：
第三縱隊，以第23團主攻東門，第24團為二梯隊；第20團主攻北門，第25團為二梯隊；第22團由東北門攻擊，第21團為二梯隊；第27團為縱隊預備隊。第四縱隊，以第29團主攻西門；第31團、第32團主攻南門；第28團、第30團分別由南、西兩門攻擊，其他部隊分別擔任二梯隊和預備隊。
命令很快就傳達到了各攻擊部隊。東門是敵設防的重點，擔任主要方向作戰任務的是第三縱隊第8師，並將師的砲兵營配屬第23團。
這樣，第23團加上團屬砲兵連，計有各型火砲32門，並以其組成了兩個火力隊。同時，第三縱隊也以3門野炮和第24團的砲兵分隊擔負該方向突擊前的火力支援。
3月11日黃昏，正當國民黨軍孫元良、胡璉兵團在洛陽附近地區徘徊觀望，對是否進抵洛陽猶豫不決之際，人民解放軍攻城的砲火已開始在洛陽震響。
隨著一陣陣山崩地裂的砲聲，勇士們如猛虎下山，呼嘯著直撲敵人陣地。
戰役發起後，三縱司令員孫繼先坐在一座破陋的民房中的地圖前，手拿電話話筒，詢問著各部隊的進展情況。
“餵，8師，我是孫繼先。”
電話里傳來王師長的聲音：“部隊正在艱難地向前推進，橋頭到甕門的層層障礙已被排除，部隊現正向甕城發展。”
孫繼先興奮地說：“好！好！一定要努力推進！”
接著王師長又匯報導：“雨大泥濘，路滑難行，前進困難很大。”
孫繼先堅定地說：“排除困難，減少傷亡，全力推進！”
正說著，王師長在電話中興奮地叫起來：“司令員，23團2連突破甕城！”
“好！乘勝進擊！”
忽然，王師長的語氣又沉重起來：“敵人集中炮火向我突破口猛烈轟擊，後續部隊無法前進，突擊營的電話被打斷了。”
孫繼先命令道：“不惜一切代價，擴大突破口，讓後續部隊進城！”
攻城戰鬥取得一定進展，但西門、南門、東北門、北門仍未突破，敵人立即將所有的砲火和預備隊集中過來對付突進去的部隊，23團有被打出來的危險，孫繼先來不及多考慮，對王師長說：
“24團、22團、21團，全調過來，從東門突破口入城，進城後立即展開巷戰！”
8師立即調整部署，將其他團隊調到東門加入戰鬥。
洛陽城東門被打開了。
陳士榘、唐亮、陳賡等在指揮部裡聽著那刺破敵膽的喊殺聲，焦急地等待著部隊攻擊進展的情況報告。
這時，聽到孫繼先的報告說：“第8師23團張明營已突破東門，並佔領了城樓！”沒想到敵重點設防的東門在極短時間內即被突破了，陳士榘、唐亮等十分高興。
四縱10旅的攻擊方向是西門，這是敵人防守的強點。要攻進去，必須通過一道長橋。總攻發起前，10旅29團1營曾兩次試圖偷越此橋，皆未成功。
12日，周希漢決心變偷襲為強攻，命28團實施主要突擊，29團、30團在兩側助攻。
邱行湘親自指揮巷戰，但已難以阻擋解放軍的攻勢。敗退的國民黨軍不斷縮進民屋與核心工事內，連洛陽專員劉煥東等也逃入洛陽中學的核心陣地內。儘管還有西工、九龍台、潞澤會館幾個外圍據點在支撐，但城區基本已被突破，僅有西門和西北角城牆的陣地與洛陽中學的核心陣地和洛陽中學以南的幾條小街區還在邱行湘的手裡。
邱行湘已感形勢危急，一面不斷地向國民黨統帥部求救，一面不停地給其殘存的部下打氣，許願說，向他們懸賞千萬元，並先發一半，要他們堅持到援軍到來解圍時即發另一半。
可是，兵敗如山倒，在人民解放軍的強大攻勢面前，蔣軍官兵的抵抗意志基本已經崩潰。其中包括一些一貫思想頑固的軍官團成員和蔣介石派往洛陽督戰的視察組長劉伯龍等。尤其是這位劉督察，未等洛陽受困便早早帶了隨行人員悄悄逃回了南京。一些擔任206師教官的中、上校軍官，也乘亂偷偷離開了洛陽城。僅有無奈的邱行湘孤零零地率殘部在作最後掙扎。
而邱行湘苦苦期盼的救援卻如空中樓閣般虛無漂渺。蔣介石僅給他發來了附有幾句勉勵堅守的一紙空文，指派增援的孫元良、胡璉兵團及第二快速縱隊等，以種種原因拖延時間，遲遲不肯向他伸出救援之手。
戰至12日下午l4時，第四縱隊攻擊部隊亦突破了西門。司令員周希漢立即抓起話筒向陳賡報告：
“我們已經突入城內，正與敵人展開巷戰。”
陳賡興奮地說：“通知部隊要頑強推進，佔領有利地形，不可戀戰。後續部隊跟進多少？”
“後續部隊正在跟進，28團基本進完。”
“好！命令29團、30團同時跟進。”
“是，29團、30團正在向缺口衝鋒。”
陳賡補充命令道：“部隊進入後，要對重要據點的敵人進行包圍，對頑抗的敵人進行消滅，對分散的敵人捉俘，要速戰速決，各個殲滅。”
戰至12日下午l5時，洛陽的所有城門及附近工事均被第三、第四縱隊的攻擊部隊突破，各路大軍在城內實現了會師。
此時，只剩城西北角的洛陽中學的陣地為敵所控，邱行湘率殘敵龜縮在這個百米見方、南北排列有四五棟樓房的核心區域內作最後頑抗。
13日，各部隊繼續對殘敵發動攻擊，並將由城區各方向潰退下來未進入核心陣地的國民黨軍，殲滅在敵核心陣地以南地區。在戰鬥中，俘獲了敵第1旅旅長趙雲飛。敵第2旅旅長盛絕岳則化裝藏匿於民居中。
掃清城內其他殘敵後，各路攻擊力量便匯合圍攻洛陽中學敵核心陣地。但因敵依托堅固工事頑抗，攻擊部隊先後組織的兩次攻擊都未奏效。
邱行湘一面膽戰心驚地組織殘部堅守陣地頑抗，一面不停地電請蔣介石派外圍各兵團兼程馳援，並請求加派空軍助戰。
蔣介石不願輕易失去洛陽，立即電催鄭州指揮部督令胡、孫兵團馳援洛陽。胡璉、孫元良因懼怕蔣介石追究責任，便不情願地率部進抵黑石關附近。
第八縱隊所部，憑藉有利地形，予敵以有力的阻擊，使其不能輕易靠攏洛陽。第九縱隊原在新安、澠池地區阻擊裴昌會兵團東援。因該敵未來，第九縱隊便轉至洛河北岸與第八縱隊協同阻敵。
14日16時30分，攻城部隊對敵核心陣地發起了總攻。在強大急促的火力準備下，敵核心陣地的樓房燃燒了，圍牆倒塌了，工事摧毀了。
l7時20分，兩顆綠色信號彈升上天空，衝擊開始了！
華東野戰軍第三縱隊第8師由東、第9師由北，陳謝兵團的第四縱隊第10旅由南，向邱行湘的最後巢穴發起總攻。
為了摧毀敵堅固工事與障礙，攻擊前集中了幾乎所有火砲對敵陣地進行了長達40分鐘的猛烈轟擊。在人民解放軍的砲擊下，敵人陣地上濃煙滾滾，火光沖天，一些房屋的圍牆和炮樓等炸塌。
邱行湘原先只判斷解放軍將以爆破手段實施逐道陣地與工事的爭奪，沒想到對方竟會實施如此猛烈的砲火。
在解放軍的砲火急襲中，核心陣地內的許多工事被破壞了，5座大樓也燃起了大火。其中，南面的兩座高樓不久即倒塌了，使據守此樓的敵總預備隊無以容身，到處亂竄，傷亡甚大。敵第4團團長在砲火中喪生，邱行湘也被彈片擦破了頭皮。他和其參謀長劉宏遠仍命令其部屬堅持頑抗。
當炮火仍在持續中時，擔負主要攻擊任務的第三縱隊第8師王吉文師長，親臨前沿指揮所組織突破敵核心陣地戰鬥。
炮火剛一停息，3發紅色信號彈騰空而起。第24團第2連連長王繼禹一馬當先，帶領2連飛速沖上了小橋。
這時，被炮火打啞了的敵暗火力點突然復活了，從溝底里拼命向外掃射。一顆子彈打中了王連長的頭部，他頓時覺得一陣昏迷。
當他清醒過來時，全連已衝進了敵人的核心陣地，但傷亡太大，進展緩慢。王繼禹忍著痛猛地站起身來，將負傷的頭部包好，又不顧一切地跨進了突破口。
這時，敵人用重金收買的“敢死隊”，正好反撲過來。在這關鍵時刻，王吉文師長親臨突破口指揮，突擊部隊備受鼓舞，連負傷的戰士都掙紮起來投入了戰鬥。一陣衝殺，敵“敢死隊”被打退回一個地洞內，王連長帶傷率領戰士們一直衝到敵人的地洞口，並以火力封鎖洞口，迫使敵人出來投降。
這時，第四縱隊的攻擊部隊也從西南兩面衝進了敵人的核心陣地。敵人喪失了鬥志，一個個地舉著雙手從地洞口和被打塌的碉堡裡鑽出來投降。
邱行湘眼見大勢已去，絕望中向蔣介石發電，稱：
“天不佑我，人不助我，時不濟我，非我之過。我邱行湘遵囑與洛陽共存亡。”
蔣介石見電後，急令俞濟時帶飛機去接邱行湘出城，並悲戚戚地說：“洛陽可丟，'邱老虎'不能丟！”
俞濟時早知洛陽機場已被炸毀，飛機無法起降但也強做好人地在洛陽上空轉了幾圈，與邱行湘呼叫話別：“邱師長，總裁派我帶飛機來接你，可無法降落，實不是為兄之不仁呀！”
邱行湘聽到呼叫，帶著哭腔說：“請轉告總裁，我邱行湘言行一致，誓與洛陽共存亡，讓我遺憾的是不能再效忠黨國和領袖了。”
邱行湘草草地包紮了一下受傷的頭，匆忙換上一套士兵服，並將中正式短劍扔到剛換下的中將軍服上，自言自語道：
“主席，請原諒，學生無奈，只得如此了。”
說完便乘亂逃離指揮部，帶著幾名隨從準備突圍。身材矮小卻穿了一身肥大士兵服的邱師長，沒跑多遠就遇上沖過來的解放軍戰士，乖乖成了俘虜。
邱行湘被俘後本已心灰意冷，只等解放軍對其清算舊賬，沒曾想陳賡巡視戰場時卻專門接見了他，並教育他要“努力學習革命的道理，正確認識過去的作為，改變對人民的態度，以獲得人民的諒解”。
歷時7晝夜的洛陽戰役終以國民黨軍第206師被全殲而勝利結束了。在作戰中，共殲敵1個師部，2個旅部，5個整團另4個營和4個砲兵連，以及保安團隊等，共2萬餘人。
洛陽戰役勝利後，陳士榘、唐亮、陳賡分別打電報給毛澤東、劉鄧、陳粟等領導，報告這一勝利消息。
毛澤東在給他們的複電中指出：“你們克洛陽，為劉鄧大軍轉出大別山創造了條件，取得了城市作戰和兩個野戰軍共同作戰的經驗，為執行紀律，起到了示範作用，特向你們嘉賀！”
洛陽戰役勝利後，解放軍為保持主動，主動放棄了該城，國民黨軍又重新佔領。
4月5日，陳謝集團再次攻占洛陽。
4月8日，陳賡主持召開前委會，任命第四縱隊政治部主任劉有光為中共洛陽市委書記，楊少橋為市長，同時組成軍管會，按照中央關於新區的城市政策，接管洛陽。
從此，洛陽就掌握在解放軍的手裡了。