23日，同登被我軍奪取，越軍3師第12團及駐守同登的越軍武裝人員全部被我軍消滅。
許世友看到形勢很好，奪取諒山省會的大門已經打開，他想到下一步的任務是殲滅諒山地區的敵人，奪取諒山省省會只是實現這個目的，才能起到威震河內的作用。
他決心使用東線各部隊向諒山奮勇前進，不失時機地繼續攻打諒山市，殲滅越軍第3師的主力。
原來，東集團攻打同登的部隊，在殲滅越軍12團的戰鬥中，繳獲了敵3師的部署圖，再加上審問俘虜，得知越軍第3師主力在諒山地區。為殲滅越軍第3師主力，也必須奪取諒山市和該市周圍的各高地，這就要首先掃清前進路上的障礙和諒山外圍的據點。許世友指揮東集團各部立即攻擊前進，首先奪取外圍要點，造成圍攻諒山之勢。
諒山市外圍據點很多，主要是扣馬山、417高地、536高地、巴外山。這些高地扼守交通要道，是護衛諒山市的主要屏障，尤其是扣馬山，標高800米，主峰有大型坑道、永備工事和火力點。這座山處在我軍進攻諒山市的主要方向上，而且山高坡陡，林茂草密。敵人憑藉這種有利地形，又修築了大量的障礙，埋設大面積地雷。他們有著周密的作戰計劃和火力配置，使用了3師的一部分主力部隊，還有當地民軍配合，能得到當地政府的支持。他們還進行過多次演習，物資準備也是非常充分的。他們的企圖是阻止我軍於扣馬山以西北地區，伺機反撲，迫我後撤。因此，奪取扣馬山、417高地、巴外山等外圍據點，是攻取諒山市的關鍵。
擔任主攻任務的是憑祥旅。該旅的作戰部署是成兩個梯隊，在303高地至巴羅地段展開，主力沿那來向扣馬山實施主要突擊，以一部兵力向417高地攻擊，首先殲滅扣馬山和417高地之敵，而後沿同登至諒山的公路前進，向諒山市突擊，殲滅諒山市地區之敵。 87團在班列、探某之間展開，主力沿303高地、那來東側無名高地向扣馬山實施主要突擊，以一部兵力從那派向郭注山攻擊，當日攻占扣馬山，88團為預備隊。打扣馬山的任務由87團擔任，這是諒山市外圍最艱鉅的任務。許司令員、向政委希望他們在這次作戰中得到更大的鍛煉，希望他們在團旗上增添光彩。
許世友司令員於2月25日夜間把參加東線作戰的主要指揮員召集到軍區前進指揮所，當面給他們交待任務。要求各級指揮員精心組織指揮，堅決打好這一仗，完成軍委交給廣州軍區的作戰任務。
2月27日清晨，戰區大霧瀰漫。 7時50分開始，東集團的砲兵進行了10分鐘的砲火急襲，主要是壓制和摧毀扣馬山陣地、417高地敵人觀察所、指揮所。 8時整，解放戰爭時期的全國戰鬥英雄、現在的副旅長李萬餘率領87團猛撲扣馬山。 2營在那派北側無名高地、303東側無名高地突破敵防禦，沿4號、6號高地向扣馬山東北側攻擊；3營在303高地突破敵防禦，沿3號、7號高地向扣馬山西南側攻擊。
頃刻間，303高地煙霧滾滾，彈雨紛飛，步兵看不見目標。坦克2連連長黎德才駕駛戰車，直闖敵陣。他看見一個目標便高喊：“注意我的彈著點！”隨即打出一梭子子彈。步兵根據他指示的目標猛烈開火，接著向敵人衝擊，很快突破了敵人的陣地。炮火逐步延伸，步兵佔領了303高地。
9連向弄嫩發展進攻，遭弄嫩東南無名高地之敵阻擊。 3營一面組織火力掩護，同時呼喚上級炮火支援，旅團炮火及時支援，9連很快殲滅了這股敵人。
8連進到波紐北側，遭到3號高地之敵阻擊，營長立即用迫擊砲壓制敵人。命令坦克2連支援步兵戰鬥。團用火力支援2、3營的戰鬥。經過3小時激戰，2營攻占了波謀和4號高地，3營攻占了3號高地，殲敵約一個連。
這天霧很大，2、3營打進山村後，搞不清方位，為給他們指示方向，炮群向扣馬山主峰發射燃燒彈，2、3營卻說看不到火光。炮群又用連續砲擊的辦法，要步兵向砲彈最密集的方向攻擊，13時才辨清了方向。 15時10分，2、3營在砲火支援下，佔領了巴嘎、郭朱一線各要點，殲敵一個連。
團主力向扣馬山攻擊的同時，2營5連在副營長周元生率領下，打響了攻打郭注山的戰鬥。為保障團主力左翼安全，按照前幾天的經驗，我軍一到敵人前沿，敵人就會亂打一通，可今天郭注山卻很平靜。週副營長身旁的幾個排長催促他：“副營長，下命令吧，讓我們衝上去看看。”周元生一邊用望遠鏡觀察情況，一邊說：“不行！情況沒搞清楚，不能打莽撞仗。”他放下望遠鏡，向連排的干部說，郭注山左側是公路，正面是鐵路，右後方是扣馬山，這麼重要的位置，敵人不會不設防，肯定是玩弄什麼花招。我們就先來個“打草驚蛇”。他指揮60炮和各種步兵武器開火，司號員吹衝鋒號，讓各排戰士喊殺聲，真有點全面進攻的氣氛。敵人終於沉不住氣了，慌忙進入陣地，抬出槍砲，發狂地吐出火舌。周元生和乾部們仔細觀察，準確地記下敵人火力點的位置，搞清了敵人兵力部署。
許世友聽說這個副營長調動敵人的事蹟後稱讚說：“這就叫智慧，在軍事上叫謀略，這個副營長會打巧仗。”
根據掌握的實際情況，周元生確定把攻擊重點放在敵人縱向交通一線。攻擊發起後，重機槍封住敵人交通要道，60炮專打敵人重機槍，用步槍、衝鋒槍打暴露的敵人。主攻排進到離次峰不遠，敵人從工事裡甩出手榴彈，炸傷了幾個排雷的戰士。周元生指揮1排奪取次峰，“趕蛇出洞”，1排長理解周元生的意圖，指揮戰士們向敵塹壕投手榴彈，接著大喊：“1排向左，2排向右，抓活的，衝啊！”敵人果然中計，慌慌張張向主峰退去，我各種火力猛烈射擊，敵人半路上遭火力殺傷，又留下了幾具屍體。
敵人退守主峰，於我強攻不利。周元生叫副連長帶領2個班和1排，誘敵出工事，予以殲滅。副連長帶著部隊神不知鬼不覺地摸上去，擺開隊形。他向周元生報告說：戰士傷亡太大，趕快派人增援。這時，我們的對講機已經和敵人的對講機對上了，副連長是故意說給敵人聽的。果然，敵人1個班順著交通壕出來反沖擊了。等敵人溜出一大半，各種火力猛烈向敵人射擊，敵人想進不能，想退無路，白白地送了1個班。副連長率領5個班，沿交通壕窮追猛打，殘敵鑽進了掩蔽部。 “陸松空依！”戰士們拉大嗓門叫敵人投降，敵人頑固不化，不斷打槍，戰士們把一個大炸藥包塞進了敵人掩蔽部，“轟”的一聲，敵人上了西天，5連殲敵80名，繳獲和擊毀敵火砲6門。
許世友後來說：強將手下無弱兵。副營長很強，副連長也有勇有謀，下一步準打勝仗。
15時15分，87團調整了部署，2營主力從扣馬上東側山腿，3營沿扣馬山西北山腿，1營沿扣馬山東北山腿，同時攻擊扣馬山主峰。 15時50分，同登旅用7個砲兵營向扣馬山主峰實施了5分鐘火力急襲，而後採取徐進彈幕射擊，在步兵隊形前逐次向前延伸火力，掩護步兵衝擊。
3個步兵營各成兩個梯隊，採用班、排疏散隊形，交替掩護，多路衝擊前進。 3營8連突擊排長甄平帶領全排沖在最前面，組織得當，連續打掉3個火力點，直插主峰。每打到一個突出部，他就打出一發信號彈，向指揮所報告自己的位置。甄平衝到離敵人山頂塹壕只有50米的地方，我砲兵停止射擊，躲在防砲洞內的敵人亂扔手榴彈；甄平正想要組織全排衝上峰頂，這是藏在暗堡裡的敵人打來一梭子彈，奪去了甄平同志的生命。 8連的同志看到甄平排長犧牲，仇恨滿腔，高喊著“為甄排長報仇”，衝上主峰，在7連和3連的配合下，於16時43分，摧毀了敵3師觀察所，徹底殲滅了守敵，佔領了扣馬山主峰，把800米高的扣馬山踩在腳下，把越軍的“金星師”踩在腳下。
許世友司令員接到這個報告時，看了又看，想起我們高乾子弟的情況。他說：這是高乾子弟的榜樣。他心情沉重，感到很可惜。
88團和87團並肩突擊，主要任務是奪取417高地。 27日17時50分，對417高地實施10分鐘火力急襲，3連從東南，2連從東北，5連從西北，同時發起攻擊，敵人依託有利陣地和既設陣地頑強抵抗，激戰幾個小時，仍未解決戰鬥。 3連的干部全部傷亡，戰鬥仍激烈地進行著。步話機員陳日昇挺身而出，自動擔負全連的指揮。他帶領兩個排繼續攻擊417高地，攻到半山腰時大部分傷亡，以後又有4次組織零星人員和炊事班連續不斷地攻擊，最後只剩下9個戰士，仍頑強戰鬥。終於在2連和5連的配合協同下，全殲守敵1個連，攻占了417高地。陳日昇同志在搜索殘敵中不幸犧牲。
許世友司令員看到這個報告後說：這個部隊戰鬥作風好，非常頑強。陳日昇同志太可惜了，不然，一定是個好乾部。
右翼保障87團突擊的是93團，他們動作勇敢迅速。他們沿著555高地、520高地向林場攻擊。 27日攻占了555高地和520高地，28日又攻占了恢復。兩天突進13公里，我們在指揮所看到作戰參謀標繪各單位的行動圖，就像平時的戰術演習一樣，如入無人之境，非常之快。指揮所的首長、參謀都為他們高興。
平時不怎麼露出笑容的許世友司令員也是滿面春風，不斷地說：“打得好，打得真快！”
在同登旅左翼並肩突擊的是北山旅，他們和同登旅同時向諒山市攻擊。 92團2月27日攻占了扣勞山、扣波山、扣考山。 91團攻打巴外山的戰鬥打得緊張激烈，殲敵252名，兩天推進了15公里。
巴外山位於諒山市東北約5公里，由10餘個大小不同的高地組成，面積約5平方公里，主峰海拔473米。整個高地北陡南緩，有1米多高的灌木叢和雜草覆蓋，山腰以下林木密布，地形複雜。其北側為440高地，北緩南陡與巴外山互為依托，構成諒山東北外圍屏障。板然至諒山的公路沿巴外山南側山腳通過，是我軍必奪的要點。
在這裡防守的是越軍3師141團第9營，營部和一個連在主峰，一個連在440高地，82迫擊砲連在主峰西側。
2月28日1時30分，91團受領進攻巴外山的任務，利用陰雨濃霧，多路攻擊，穿插分割，迂迴包圍，全殲敵人。部署是：3營從巴外山東側沿長形高地向主峰攻擊，1營沿440高地直插巴外山西側和南側無名高地，斷敵退路，阻敵增援，爾後向主峰攻擊，2連從敵人北側秘密接近，出敵不意，直插主峰，搗毀敵營指揮所。
8時30分發起總攻。 3營首先以8連1排佔領了派丹北側無名高地。擔任主攻的9連，在8連的配合下，佔領了長形高地東側的一個小高地，當向第二個高地衝擊時，遇敵雷場，兩名戰士受傷。仔細觀察後，發現了絆雷的絆線，連長即組織火力掩護，突擊排從絆雷間隙通過。該排剛通過雷場，又遭到第二小高地的敵機槍猛烈射擊，前進受阻。連長令3排8班正面牽制，7、9班從右翼進攻，連主力從左翼向敵側後迂迴，形成三面攻擊敵人的態勢。此時，加強9連的82無後座力砲排長李沉良也用肩炮射擊，一炮將敵人一門75無後坐力砲摧毀，7、9班趁勢躍入敵塹壕，向敵人攻擊。 7班長張海洲衝到最前面，連續斃敵7名，不幸中彈犧牲。配合9連的8連1排同時向長形高地東北側發起攻擊，連主力在9連後跟進。 10時20分，9連奪佔了第二個高地，繼續向第三個高地發起衝擊，由於敵人居高臨下，並集中火力封鎖我突破口，6次沖擊均未奏效。
在敵人北側行動的2連，成一路隊形，從302高地出發，利用大霧沿班冷向巴外山穿插。 9時，先頭排在巴外山北側遇敵雷場，戰士們用小剪刀剪斷敵人地雷絆線，半小時排雷70枚，開闢了一條50米寬的通路。全連通過後，迅速向長形高地北側陡坡攀登。 10時，進入敵人第一道塹壕，卻沒有發現敵人。當進至敵人第二道塹壕20米時，敵人聽到響聲，以重機槍和輕機槍掃射。突擊排迅速展開，以班為單位分3路衝擊。 82無後坐力砲副班長黃旭勇同志，肩炮射擊，一炮將敵高射機槍打翻。副連長陳富任立即命令1排投彈，趁勢衝入敵塹壕，與敵激戰。 10時40分，在2排的協同下，攻占了巴外山東側長形高地頂端。他們以為這就是巴外山主峰，就向上級報告佔領主峰。
擔任突擊任務的3連在320高地受領任務後，向440高地攻擊。因霧大走錯了方向，在炭壯附近遇到2連。連長認為現在連主力繞向440高地已來不及了，決定用2排攻擊敵退路。 9時30分，先頭3排進至巴外山主峰西側鞍部，剪斷了主峰通向西側無名高地的敵人電話線，擊斃2名敵人。接著全連從兩個方向，向無名高地發起攻擊，當接近敵塹壕時，敵人各種火力向我射擊。連長立即組織火力壓制敵人，同時命令3排把敵人火力點炸掉。
許世友說：這個連長也是個好指揮員，他遇到情況有辦法，可以根據上級意圖，靈活處置，是機動靈活的指揮員。
3排長林亞秀和9班長王玉堂接受了任務，觀察接敵路線，透過大霧發現右側有一個牛棚，旁邊有幾棵大竹子。 9班長爬進牛棚，用手在圍牆上挖了個洞，進行觀察，發現前沿有兩個暗堡，半山腰還有兩個暗堡。王玉堂搶先承擔了炸敵火力點的任務，排長見他只有4枚手榴彈，又從其他同志手裡要來了5枚給他。
王玉堂前進不遠，敵人向他射擊，子彈打得他身邊土石飛濺，他靈活地避開敵人的火力，越爬越近，已經能看到散兵坑里的敵人了。一個敵人露出半個腦袋打衝鋒槍，一個機槍手瘋狂地射擊，王玉堂一個點射打過去，敵人機槍手應聲歪倒，那個拿衝鋒槍的敵人慌了手腳，轉身後逃，王玉堂一個點射把他送上了西天。接著，他摸到暗堡射孔的左側，塞進一枚手榴彈，裡邊的敵人全被炸死。右側的火力點仍威脅著全連前進，王玉堂又向右側火力點爬去。他利用土坎，沿著敵機槍的射擊死角，衝了上去，敏捷地取出手榴彈，塞進射孔，第二個暗堡也炸毀了。就這樣他一連串炸掉敵人4個暗堡。這時排長林亞秀帶領兩個戰士迂迴上山，一陣衝殺，攻占了巴外山西側無名高地。王玉堂立了一等功，被授予戰鬥英雄稱號。
13時，巴外山周圍仍然濃霧繚繞，主峰未被我軍佔領，仍有敵人活動。但是團、營指揮員一直認為2連已經佔領了主峰。 3連主力正準備向西南穿插時，聽到東側有越南人說話，便決定連主力向主峰進攻。 2排迂迴到主峰西南側，5班搗毀敵人砲兵陣地，副指導員用繳獲敵人的高射機槍掩護1排從西側向主峰衝去。經2個多小時的激戰，與15時攻占了巴外山主峰，斃敵25名。
北山旅佔領了巴外山，逼近了諒山市區。
許世友得知各部隊進展情況，決定立即攻取諒山市。他指示司令部：告訴東集團再接再厲，堅決奪取諒山市。特別指出諒山是越南首都河內的北大門，非常重要，是要塞性質，工事堅固，又有山洞。先用砲火突然猛烈轟擊市區，把軍事建築徹底摧毀，打出國威，打出軍威。
許司令員還說，特別要告訴砲兵的同志們，要不惜任何代價狠狠地打，要把所謂的“第三軍事強國”打敗、打垮，把他們打得趴下認輸！要他們知道，中國人民不是好欺負的。
許世友想到，諒山是一個省會，而且是越南首都的北大門，離他們的首都又很近，這是個非同小可的地方。打下來不但可以殲滅越軍第3師主力、473師一部，而且會產生威震越南首都的作用，可以起到打在3師身上，疼在黎筍心上的作用，可壯我國威、軍威，一定會產生有利於我國的政治影響。如果打不好，奪取不了諒山市，越軍還會翹尾巴，還會吹牛皮，那會大損我國威望，大損我軍形象。
他決定用打同登的方法打諒山。他覺得同登戰鬥是打得很好的典型戰例，同登是要塞，諒山也是軍事要塞，是堅固的陣地，必須用火力對付越軍的堅固設防，用集中猛烈的砲火摧毀敵人的各種設施，大量殺傷敵人的有生力量，而後再用坦克、步兵突擊，奪佔諒山市。
3月1日，這一天許司令員使用了很多的砲兵。從友誼關至諒山北側的公路及其附近的窪地，旅屬以上306門火砲列陣昂首，直指諒山，像是在警告越軍；你準備挨打吧！ 9時30分，一聲號令之下，全線砲兵以強大的砲火對諒山市急襲30分鐘，發射了萬餘發砲彈，地動山搖，房倒屋塌，整個諒山市頃刻間變成一片火海。敵兵營、火車站、變電所、郵電大樓、公安廳等主要建築被打得百孔千瘡。諒山到河內的通信中斷，供電系統被摧毀，河內電台曾經大吹特吹的所謂“中國的大砲打不到諒山，諒山市區一片和平景象”的牛皮，就像肥皂泡一樣破滅了。自稱為“王牌”的越軍3師用無線電明話向河內呼叫：“中國軍隊的砲火太猛了，所有的道路都被他們封鎖，我們簡直無法抵擋，要撤退只有爬山了。”
10時整，許世友司令員指揮東集團主力借助炮火威力，向諒山北市區發起了攻擊，每個團像一把利劍，插進諒山市區。
憑祥旅仍然擔負主要方向上的進攻任務。該旅第二梯隊89團在536高地以東地區加入戰鬥，主力沿坤來西北側向諒山大橋頭實施主要突擊，一部兵力沿鐵路西側向諒山北市區攻擊；88團沿拜息、同圍、279高地向諒山市奇窮河大橋攻擊，與89團協同殲滅鐵路以東諒山以北地區之敵；87團轉為旅第二梯隊。
發起攻擊後23分鐘，89團1營攻占基漠西側無名高地，繼續向昆比西南無名高地進攻，但因敵工事堅固，高射機槍、重機槍火力很猛，連續3次沖擊均未奏效。根據旅的指示，該營留1個連圍殲無名高地之敵，殲敵300餘名。在向諒山市區攻擊時，守敵依托陣地節節抗擊，敵縱深砲兵又不斷實施砲擊，1營傷亡很大，進展遲緩。
為加快進攻速度，旅集中2個砲兵團的火力支援89團向大、小石山攻擊，以1個砲兵營的火力支援88團進攻279高地。
15時，89團1營由昆比西北、2營沿鐵路向大、小石山攻擊。半小時後，1營報告說，他們已進至大、小石山腳下，遭敵高射砲、高射機槍、重機槍火力猛烈射擊，請求旅炮火支援。旅和團鑑於部隊距離敵人太近，炮火易誤傷自己，即令該營組織隨伴火砲進行掩護。這時，進至同淵、商業廳附近的2營，遭敵279高地和大、小石山火力夾擊，進攻再次受阻，與敵形成對峙。
部隊進攻多次受阻，進展遲緩，引起旅長的深思，他叫在89團的副旅長和團的主要領導親自到前沿查明情況，指揮戰鬥。
黃昏前，旅、團領導趕到一線陣地，發現1營先頭並未到達石山腳下，而是因為霧大視度不良，將石山西北無名高地誤認為是石山。在無名高地與石山之間有一片600～800米的開闊地，大石山周圍有敵坦克、高射砲，半山腰石洞、石縫內有敵輕、重機槍，山頂有高射機槍，火力很猛。大、小石山北側是一片居民地，有兩條水溝，便於部隊接近。副旅長據此向旅指建議把主要攻擊方向改在東北側，以一部兵力從西北牽制。
旅指經研究認為，副旅長提出方案可行，正準備答复89團執行，又接到88團的報告。該團2、3營從東西兩個方向同時向279高地發起攻擊，遭敵火力阻擊和側射，至19時30分，多次攻擊無進展。旅指考慮到天色已黑，再攻不利，即令這兩個團暫停進攻，組織小分隊秘密抵近小石山和商業廳附近查明敵情，偷襲大、小石山之敵。
入夜後，各部隊就地組織防禦，89團1營組織4個排的兵力，先後兩次偷襲大、小石山。由於石山是懸崖峭壁，無法攀登，在尋找上山的道路時，被敵潛伏哨發現，遭敵坦克和高炮、高射機槍、步兵火器猛烈射擊。 1營擊毀敵坦克1輛，被迫返回原地。
許世友司令員聽到這些情況後，他明確指示：打這種地形上的敵人，不能用野戰戰法，而應當用攻堅戰法，嚴密組織，發揮直瞄火砲的威力，直戳敵人的山洞，步兵分成小組，使用手榴彈、爆破筒，奪取敵人陣地。
23時15分，東集團根據許世友的指示精神，使用攻堅戰法向各旅部署了翌日的作戰，要求88團堅決攻占諒山市北市區，89團殲滅大、小石山之敵，控制奇窮河大橋。並規定，2日8時50分開始炮火準備，9時發起攻擊。
憑祥旅根據1日作戰情況和上級的指示，決定88團首先奪取279高地，而後直插大橋頭；加強給89團85加農炮1個連、高機1個連、152加榴砲1個排，主力沿鐵路西側攻擊大、小石山，以一部兵力直插大橋頭，斷敵退路。並指示該團把坦克、直瞄火砲前推至距敵800～500米處實施抵近射擊，掩護步兵小群多路從翼側接近，用打、炸、燒的方法將敵消滅。
2日8點50分，砲兵群隊大、小石山和諒山市區進行炮火準備。 10分鐘後，89團1連成3路從東北和西北兩個方向對小石山發起衝擊。在小石山西北側機械廠與洞內出來的敵裝甲車、汽車相遇，該連即以無後座力砲、火箭筒擊毀敵裝甲車、汽車各1輛，很快攻占了療養院、機械廠，殲滅了小石山東北和西側3個洞口守敵，封鎖了洞口。
9點15分，1連向小石山主峰發起攻擊，2連從1連左翼加入戰鬥，首先摧毀了療養院南側敵機槍火力點，炸掉了5個隱蔽部，攻占了小石山東側和東南側兩個無名高地。 9點35分，1、2連協同攻占了小石山表面陣地。
團指令1營以2連控制小石山，肅清殘敵，1連由北向南攻擊大石山，3連直插大石山的三清洞，6連沿火車站西側迂迴到大石山東南側，協同1、3連攻殲大石山之敵。
10點25分，6連在砲火支援下，向大石山發起攻擊。主力衝到北市區奇窮河橋頭約200米處時，突遇敗退的敵兩輛坦克和1輛裝甲車沿公路向奇窮河大橋急駛，企圖向南逃竄。 10班副班長黃炳培眼明手快，端起火箭筒，一炮正中油箱，迅速起火冒煙。第二輛坦克一見逃路被堵，象見了貓的老鼠一樣掉轉頭繞到鐵橋下面，企圖從水面下橋南逃，正巧碰上了班長莊玉成又來了個首發命中。裝甲車見逃脫不掉，便開進了一個窪地頑抗，被新戰士葉木火1發火箭彈擊中裝甲車的連接部，立即癱在窪地裡。
到11時許，1營與6連密切協同，攻占了大石山。 3連的戰士利用砲火的掩護，將一個個炸藥包、爆破筒塞進三清洞，轟隆、轟隆一陣巨響，洞中守敵死的死，傷的傷，有的憋得喘不過氣來，驚呼著從石縫中剛擠出來就當了俘虜。在1營攻擊大、小石山的同時，2營4、5連沿鐵路、公路直取諒山大橋。
88團對279高地實施5分鐘火力急襲後，以4個連的兵力，從東北、西北、正北3個方向發起攻擊，9時25分攻占了該高地，敵已棄陣逃跑。該團以2營控制279高地和搜剿殲敵，3營直插諒山大橋，肅清了大橋以北地區之敵，在鐵路東西兩側奇窮河北岸轉入防禦。
在憑祥旅右翼方向上進攻的還是浦寨旅。該旅93團於1日攻占林場北側長形高地，而後連續粉碎敵人的6次反沖擊。 2日又以積極的作戰行動配合憑祥旅攻打大、小石山。 94團1營於1日接替93團3營559高地防禦。浦寨旅各團的戰鬥也打得很好，其中尤以93團2營攻打林場北側長形高地的戰鬥，戰術靈活，以小的代價換取了較大的勝利。
林場北側長形高地，位於諒山市西北約兩公里處，由南北走向的大小13個高地組成。各高地的坡度為30～45度，山上雜草、灌木叢生。環山有東至諒山、西至恢復的簡易公路，西、南兩面有奇窮河環繞。各高地均構築有塹壕、掩蔽部、機槍工事和單人掩體，主陣地上有坑道，並與交通壕和塹壕相連接，是諒山守敵的一個外圍防禦要點。
2營加強100迫擊砲連、82無後座力砲第2排，集中主要兵力兵器沿4、9號高地向13號高地實施主要突擊，以部分兵力從1號高地西、北側攻擊。先殲滅了1、4、9號高地地域之敵，爾後向10、13號高地發展進攻。
3月1日9時30分，雲重霧濃，炮聲隆隆，1營兵分數路，直插長形高地的東、北側，守敵在我猛烈的攻擊下，東逃西竄，一片混亂，被我接連奪佔了5個高地。
6連繼續向8號高地發展時，遭8、10號高地之敵火力猛烈射擊，1門82無後座力砲、1挺重機槍被打壞，衝擊受阻。連令2排迅速迂迴到5號高地西側攻占了該高地。
稍後，敵糾集約1個班的兵力從7號高地東側向5號高地反沖擊。我1排在左，3排在右，2排直插敵陣，搶占兩山之間的無名高地。 2排殲滅敵人1個班之後，乘勝向7號高地發展進攻。當距敵約30米時，遭到敵人的火力壓制，2排排長王木舟立即指揮重機槍進行壓制射擊，為了減少傷亡，他帶領全排交替躍進，以迅猛的動作靠近敵人陣地。守敵看見他們急沖上來，慌忙從塹壕退到汽車底下和修理車後面的掩蔽部裡，瘋狂地向2排掃射，突然戰士楊忠信中彈倒下。王木舟看到倒下的戰友，怒不可遏，他像一頭紅了眼的雄獅，端起衝鋒槍一陣猛掃，然後縱身躍起，滾到公路旁的土坎下。越過公路就是敵人的汽車庫，距離不到20米，4班戰士也跟著排長躍到土坎下和敵人短兵相接了，接連投出4枚手榴彈，準確地投在修理車後，打得敵人死的死，傷的傷。就在這時，意外的事情發生了，躲在車庫後面的敵人從左側扔來一枚手榴彈，滾到離王木舟只有1米多遠的地方，而王木舟正全神貫注地盯著前方的敵人沒有發現它。機槍手蘇是安一眼看見，焦急地高喊：“排長！手榴彈，快閃開！”王木舟扭頭一看，手榴彈正“吱吱”冒著白煙，但同時看到身後1米遠的地方趴著機槍手蘇是安、農勇康，戰士文國志在給楊忠信裹傷，旁邊還有4班長溫水金和戰士姚文彩、廖植乾。如果自己閃開，手榴彈爆炸，7位戰友就會倒在血泊之中，戰鬥任務就無法完成。烈火見真金。王木舟毫不猶豫，毅然撲上去，用自己的身體緊緊壓住手榴彈，剎時，傳出了撕人心肝的沉悶的爆炸聲。 “排長！排——長！！”蘇是安帶著哭聲撲向王排長。
王木舟慢慢地睜開了眼睛，用十分微弱的聲音說：“前面……有……敵人，快去……消滅……他……們！”話音剛落，就安詳地閉上里眼睛。
“為排長報仇！”
“堅決消滅敵人！衝啊！”
這吶喊聲震撼山岳，刺破敵膽。隨著這聲音，4班長溫水金從地上一躍而起，端著衝鋒槍衝上去了，機槍手蘇是安、農勇康緊握輕機槍衝上去了，2排的戰士們不顧一切地衝上去了。
經過30分鐘的激戰，6連2排與全營的戰友一起佔領了無名高地，殲敵42團和166炮團300餘名，繳獲汽車11輛。
許世友司令員聽了王木舟英勇犧牲保護戰友的事蹟，讚揚地說：這個排長的英勇動作，給全排樹立了榜樣，帶動了戰士們英勇殺敵。這是一個好典型、好教材。
位於憑祥旅左翼的北山旅91團，於1日12時30分攻占了敵141團團部所在地波寮，繳獲蘇制反坦克導彈9枚和控制箱1個、美製單兵火箭彈96枚、發射筒21具。 2日9時許，該團3營及1連直撲諒山省府大樓。
城南高地上的守敵以密集的火力封鎖路口，砲彈爆炸聲震耳欲聾。 8連7班長謝中清帶領戰士，在敵火網裡靈活躍進，只用5分鐘就衝進了省府大樓。
在瀰漫著硝煙的辦公室裡，省府官員們南逃時丟下的大印摔在屋角，文件、紙張隨風飄零。望著這幅景象，戰士們不由得發出了鄙視的笑聲。
緊接著，91團又攻占了諒山市公安局、國際旅行社、奇窮河大橋頭。
90團於1日和2日，先後攻占了諒山東北的461高地和362高地，殲敵141團91營營部及1個連。
諒山北面的445高地，是北山旅92團攻擊的目標。旅炮群和團屬砲兵首先對敵實施了10分鐘的砲火襲擊。敵工事大部被摧毀，敵傷亡慘重，被迫放棄第三道塹壕，向主峰龜縮。 92團3營主力利用砲火襲擊效果，以班、排為單位，多路向445高地發起衝擊，經過2小時戰鬥，於12時攻占了主峰，殲敵141團8營營部及1個連共132名。團主力揮戈直下，又攻占了391高地和395高地。
諒山市區分為南北兩片，奇窮河以北是新市區，河南是老市區。我軍攻克諒山市北市區，佔領了省府大樓，這可羞煞了黎筍集團。但他們終究是吹牛皮的老手，直到此時還動用宣傳工具厚著臉皮胡吹什麼：“諒山堅不可摧”，“中國軍隊沒有佔領諒山市”，妄圖掩人耳目，給一敗塗地的越軍壯膽遮羞。
許世友司令員聽到這個情況後，坐在作戰室深思著：我們這次對越自衛還擊是有限目的的行動，按中央軍委的意圖是懲罰性的還擊，拿下諒山市佔領省府大樓，殲滅越軍第3師就可以了，本不打算過奇窮河。現在，黎筍集團向全世界宣傳我軍沒有佔領諒山，好像我軍無力攻克諒山。在這種情況下，我軍應當攻克南市區，戳穿越軍紙老虎原形，只有這樣才能實現軍委自衛還擊的意圖。他想到總部原來有指示，不准我軍過奇窮河，如果現在要過奇窮河，就必須請示軍委批准才能行動。
事也湊巧，正在這時，軍委發來了“爭取自衛還擊作戰的更大勝利”的指示。許世友看過指示後，感到自己的想法正合總部意圖，於是他告訴司令部：“通知東集團，準備打過奇窮河。司令部迅速擬制打過奇窮河的作戰計劃。”
司令部根據這個指示連夜擬定計劃，通知各參戰單位勘察渡河點，準備渡河器材，通知砲兵向前推進，準備支援步兵、坦克的火力計劃，通知後勤補充彈藥。 3月3日各部隊進行了直接戰鬥準備，並把準備情況報告了司令部。夜間將部分坦克和直瞄火砲推到奇窮河北岸佔領陣地。
許世友看了司令部擬的作戰計劃，想了想後說：這個計劃可行，以命令的形式發給部隊執行，各單位奮勇前進，打過奇窮河，奪佔南市區，佔領南市區以南一線高地，向南再進5公里，造成對河內威逼的態勢，撕下黎筍集團的遮羞布，實現軍委首長的意圖。
4日6時50分，許世友來到指揮所，指揮東集團進行炮火襲擊，指揮步兵、坦克打過奇窮河。他首先詢問了砲兵部隊的準備情況，詢問了敵人前線的變化，縱深內敵人的動向，有沒有反擊的徵兆，敵人的戰略預備隊是否移動了位置。當他得知敵人沒什麼新動向，仍然是防禦態勢，似乎在等待著時來運轉後，要東集團的砲兵對諒山南市區、奇窮河南岸的敵佔個要點、敵人的兵營、敵人的指揮所進行炮火襲擊，狠狠地打那些狗日的，看老子能不能打下諒山！
東集團指揮所接令後立即發出炮火襲擊的信號。剎時間奇窮河北岸的火砲陣地上咚咚咚咚地響個不停，一群一群的砲彈，飛過奇窮河上空，落在敵人的陣地上、兵營中。火光閃閃，炮聲隆隆，濃煙滾滾。北岸的坦克部隊正在對南岸的火力點直接瞄準射擊，並準備渡過奇窮河，伴隨步兵衝擊。直瞄火砲在對敵強固工事進行破壞射擊。重機槍時而向南岸敵人掃射，打擊敵人的散兵，時而點射封鎖敵人火力點的射孔。各步兵連隊，有的佔領橋頭準備過橋，有的臥倒在奇窮河北岸邊準備徒涉，有的在縱深內拉大距離原地休息，他們是第二梯隊。指揮員們都進入了臨時構築的指揮所中，有的用望遠鏡觀察戰場，有的打電話向下級交待注意事項。看來已是萬事俱備，只欠東風了。
許世友得知炮火襲擊敵人的效果良好，感到滿意，了解到步兵、坦克部隊準備的情況也比較充分，態度嚴肅地說：告訴東集團命令部隊打過奇窮河，奪取南市區，攻占奇窮河南岸的敵佔要點，繼續向河內前進。
東集團接到指示後，立即發出強渡奇窮河的號令。只見奇窮河北岸的英雄們組成7支突擊隊，象7支利劍，直插南市區和南岸敵佔高地。
7點整，在恢復至棍雜地段上，展開了強渡奇窮河、攻擊南市區的戰鬥。憑祥旅89團2營主力從諒山大鐵橋，6連從水面下橋全部通過奇窮河。 7點40分，4連攻占南市區越軍營房，6連攻占療養院，5連攻占火車站。 3營緊隨2營後前進，在通過大橋時，遭飛機場、文廟高地、428高地、391高地之敵高射砲、高射機槍和縱深炮火的火力封鎖。旅砲兵群、團直瞄火砲對上述要點實施火力壓制，掩護3營迅速通過大橋，超越2營的戰鬥隊形隊向391高地、428高地發起衝擊。 9時15分，9連在7連的協同下，攻占了391高地，斃敵71名。 8連在7連的配合下，以一部兵力正面牽制，主力從東西翼實施迂迴。 10時25分，攻占了428高地，斃敵48名。 10點05分，6連攻占了文廟高地，斃敵23名，餘敵向伯蒙方向逃竄。
中午12點多，7連在8連一部協同下，攻占了465高地。 16時10分，2營6連攻占了伯蒙，4連攻占了弄昆及其附近個要點。
從昆八大橋過奇窮河的是寧明旅44團2營。 7點40分，5連1排在營、連火力掩護下，首先徒涉過河，搶占可以控制昆八大橋的317高地。 4連1排借助5連對橋南側兩個小高地之敵的火力壓制，通過昆八鐵路大橋，搶占了1、2號高地，控制了大橋，掩護主力渡河。
4連過河後，向7號高地進攻，遭到敵4個暗火力點的突然射擊，2排長和5班長中彈犧牲，另有7人負傷，進攻受阻。連長迅速組織火力摧毀了這4個火力點，以小群多路，迂迴攻擊，先後攻占了5、6、7、9、11號高地，繼續向8號高地發展進攻。
4連3排剛剛佔領10號高地，即發現西南約800米處敵坦克3輛引導步兵約1個排向10號高地反撲，經10幾分鐘激戰，擊毀敵坦克1輛，斃敵5名。
5連發展順利，10點鐘攻占了8號高地。營據此集中兵力，迅速攻占332高地。 5連轉為主攻，4連堅守既得陣地，將6連投入戰鬥，協同5連圍殲332高地之敵。
10點20分，5連預備隊3排加入戰鬥。 2、3排由東西兩側向332高地攻擊。 2排的火箭筒手以準確的火力摧毀了北側的兩個火力點。敵人懾於我軍的勇猛攻勢，丟械倉皇逃跑。戰士們迅速沖上高地，以火力進行追殲，又炸毀了1輛裝甲車和1輛履帶牽引車。
在382高地的6連2排和4具火箭筒剛剛到達10號高地，敵3輛坦克正在向4連瘋狂射擊。敵人打了一陣不見還擊，知道4連沒有辦法對付坦克，更加猖狂了。正在這時，6連火箭筒手前出到距離敵坦克約170米處，擊毀敵坦克1輛，其餘兩輛慌忙調轉屁股，噴著一溜黑煙向南逃跑了。
在恢復以西地段打過奇窮河的是浦寨旅93團1、3營。經反复爭奪，他們於5日14時40分佔領了627高地，靠崩西北側無名高地和413高地。
在扁福過奇窮河的80團，攻擊目標是迷邁山，位於諒山市東南4～5公里，主峰海拔480米，為高300米左右的群山所環抱。南與扣瓦山相連接，兩山之間有一條從諒山通往河內的簡易公路，北有奇窮河天然屏障，易守難攻，構成諒山東南的一道屏障，是越軍奇窮河以南的一個防禦要點。我軍攻占了迷邁山，就能形成進逼河內的態勢。
先頭團偵察排和工兵排於7點鐘趕到驕新，沿大路向扁福搜索前進。原不知該地有敵防守，下了公路，在村北與敵巡邏的一個加強班遭遇。因濃霧瀰漫，敵將我誤作其特工人員，發問口令。聽到敵人的叫喚聲，偵察排迅速佔領大路兩側有利地形，先敵開火，斃敵4名。
2連趕到此地。扁福之敵遭我2連、偵察排攻擊，被擊斃15名，殘敵過河逃往棍雜。 2連奪佔了扁福，控制了河北岸有利地形，此時，營主力進至扁福北側集結。團長何善福率領團指揮所人員隨2營之後進至扁福北側無名高地開設指揮所。團首長根據2連的渡河情況，分析了敵情、地形，決定由2連在敵防禦嚴密、火力較強的棍雜正面佯攻，並造成強渡的假象，迷惑、牽制敵人，1、3連迂迴到敵防禦薄弱的翼側擔雙地段渡河。
全營過河後，各連向敵縱深發展進攻。 1連攻占了擔雙南側無名高地，以火力摧毀7個火力點，斃敵17名。 1、3連攻占了崩毛西北側無名高地。 2連消滅了棍雜殘敵後，控制了扁福渡口南岸1公里縱深內的諸要點。
3營隨1營後跟進，8連首先過河，攻占了噸來西側和南側無名高地，營主力也於19時10分全部到了河南岸。 80團在渡河戰鬥中，共斃敵147名。當晚，1營在擔雙南側、3營在噸來西南側，團指和2營在扁福及其以北高地暫時組織防禦，準備繼續進攻。
當天晚上，80團接到上級的指令，4日12時前打下迷邁山。團考慮到1營連續作戰，比較疲勞，決定以2營擔任主攻，3營擔任助攻，1營為預備隊。不惜一切代價勇猛穿插，首先攻占迷邁山，爾後向兩翼卷擊，全殲守敵。
4日4時05分，濃霧密布，天正下著雨。 2營從扁福北側無名高地向渡場開進，由於沒有辨準方位，走錯了路，到了攻擊時間仍沒有全部渡河。團長當機立斷，由1營接替2營主攻，2營為預備隊。 1營的進攻出發陣地距離迷邁山為3.5公里，這之間全是小山包。如果採取逐步攻擊的戰法，很難在規定的時間內完成任務。團指即令1營3連和3營9連實施穿插，主力隨後跟進，兩個營利用濃霧並肩向迷邁山猛插。 3連避開班茂守敵，隱蔽地渡過玻令河，直插迷邁山南側。 9連在班茂東北側與少數敵人遭遇，先敵開火，斃敵4名，正欲渡河時，又遭敵班茂以北無名高地之敵射擊。團指示該連不要戀戰，不要怕敵側射，不惜一切代價迅速插到迷邁山。 9連遂以一個排牽制敵人，主力迅速繞道班茂西側渡過玻令河，從班茂西北側無名高地敵防禦間隙通過。
9點50分，1、3營插至迷邁山下，在上級9個砲營的砲火急襲後，對迷邁山主峰發起了衝擊。
9連連長觀察到主峰之敵以一部兵力向東北側無名高地運動，主峰東南側地形比較隱蔽。於是率領1、3排從東南側向主峰發起攻擊，因敵火猛烈，3排3次沖擊均未奏效。連長即組織輕、重機槍火力壓制敵人，同時用3排和3班交替掩護，向敵攻擊。 7班巧妙地利用地形隱蔽接敵，首先沖上主峰，佔領了有利地形，掩護連主力一舉突入陣地。
9連主力於11時05分控制了迷邁山主峰，殲敵155團6營營部和9連，擊斃敵上尉副營長，提前完成了上級賦予的任務。
許世友司令員聽到這段戰鬥報告後說：80團首長決心正確，部隊打得勇猛，應當表揚。在單獨的方向上，打得這樣就很不容易了。
主峰的戰鬥結束了，主峰下的抗外和班茂的戰鬥正酣。
80團以穿插戰術攻上了迷邁山主峰，但山下還有守敵3個連在與我1營激戰，一直打到下午5時還未結束，團指又把預備隊2營主力拉上去，只留下一個連作為預備隊。
4日和5日兩天，80團以殲敵450餘名的戰果勝利完成了圍殲迷邁山之敵的戰鬥任務。
諒山之戰，在許世友指揮下，以敵敗我勝宣告結束。這是廣西戰區對越自衛還擊作戰的“壓台戲”。這一戰，共殲滅敵人兩個步兵團、一個砲兵團和一個公安團。被越軍吹噓為“不可逾越的要塞”，不可一世的越軍“王牌”第3師，在我軍鐵拳之下，統統現出了紙老虎的原型，在其戰史上記下了不光彩的一頁。
許世友司令員說：我們奪取諒山全市區，打過奇窮河，又向河內前進5公里，造成威逼河內之勢，這也是黎筍集團逼出來的，不如此，越軍不會認輸，也不足以教訓野心勃勃的黎筍集團。
他接著說：過去，我國政府作過很多次勸說工作，提出過很多改善關係的措施和建議，黎筍集團聽不進去，總認為我們軟弱可欺，他們的反華行動變本加厲，猖狂至極。我們不想打到河內去，只是用有限的軍事行動警告黎筍集團。但願這種威逼行動是最後一次，但願中越兩國的邊界衝突緩和下來，但願中越邊界和平安定。