九月二十一日，我軍跨過古長城，越過晉綏邊境上通往塞外的豁口——殺虎口，進入綏遠境內。
九月的綏遠，正是草肥馬壯的季節，但是映入眼簾的卻是一片荒涼蕭索的景象。草原上人煙稀少，牛羊罕見，村莊的斷牆殘壁上到處塗寫著“不空舍清野者殺”、“不通情報者殺”、“以物資供敵者殺”、“通匪者殺”之類殺氣騰騰的血腥佈告和標語。沿途村鎮十室九空，偶爾見到幾個群眾，也都是老人、小孩，個個面黃肌瘦，衣衫襤樓，十分淒慘。看著國民黨統治區人民遭受的苦難，戰士們義憤填膺，更增強了進軍的決心。
二十四日十五時，我二縱五旅接到奔襲涼城的命令，全旅人員輕裝疾馳，以每小時十餘里的速度直撲涼城。涼城，位於歸綏東南，是一個只有數千人口的小縣城，守敵為保安第三團一部及縣警備隊。該敵聞知我軍進擊，嚇得魂不附體，先我到達之前即棄城逃奔歸綏；不明真像的群眾在敵軍的欺騙和裹脅下，也都跑光了。部隊入城時，城內杳無人跡，已成為一座空城。五旅入綏第一仗不戰而克。隨即，按預定部署由涼城直插歸綏東南之嘎爾兔一線，並於二十六日進至距城二十里之大小黑河，控制了黑河橋頭；六旅也於同日進抵歸綏城南四十里的陶思浩、郭家營子、羊蓋板一線。右翼之第一縱隊沿平綏路西進，在佔領並控制卓資山至白塔間二百四十公里長的鐵路線之後，繼續向歸綏逼近，三路大軍從東南西三面對歸綏形成了戰役包圍態勢。
與此同時，第一縱隊第二旅和冀晉軍區部隊於二十四日分別攻占了隆盛莊、豐鎮兩處要點；第八縱隊和第一縱隊二旅及騎兵旅，從二十五日開始向綏東重鎮——集寧展開了猛烈攻擊，激戰兩晝夜，攻占了設防堅固的集寧縣城，使歸綏失去了平綏路東段的一個重要支撐點，切斷了歸綏與北平的鐵路聯繫。
我包圍歸綏的三個縱隊一抵歸綏近郊，迅即展開了攻城的各項準備工作，各部隊積極主動地向敵各外圍支撐點展開進攻，逐漸掃清障礙，逼近城垣，至二十八日，歸綏城東南西三面均為我軍所困，歸綏往西至包頭間鐵路亦為我軍切斷。歸綏守敵驚恐萬狀，除留少數騎兵對東近郊襲擾外，其餘全部龜縮在城裡，日夜不停地趕修工事，企圖負隅頑抗；市區不到天黑，即已開始戒嚴。圍城期間，我軍各偵察分隊十分活躍，利用夜暗偵察敵情、襲擾敵人，捕捉“舌頭”更增加了敵軍的恐慌。二十八日黃昏時分，我帶著幾個同志縱馬來到距城十里的小黑河邊，夜幕中，歸綏城北的大青山一片黛色，隱隱的只見一抹山影塗在天邊，歸綏城掩沒在大青山下。城垣周圍，敵軍堡壘林立，附近村莊的房屋幾乎全被平毀，樹木被砍去修築工事，野地裡無家可歸的群眾紛紛向我軍哭訴敵人的殘暴罪行，激起了我指戰員的無比仇恨。戰士們的雙眼射著憤怒的火焰，見我來到他們身邊，幾個同志激動的向我請求早點下達攻擊命令，拿下歸綏城。我正要向他們解釋，韓偉副司令員派人前來請我立即返回，我知道可能又有新的情況，急忙回到駐地。韓偉告訴我，在我軍包圍歸綏以後，傅作義慌了手腳，急忙令北平、張家口地區的三十五軍、暫編第四軍，新編騎兵第四師等步騎兵十個師由平綏路星夜西援，妄圖與我軍主力決戰。敵軍憑藉鐵路、公路及騎兵機動迅速的有利條件，來援勢頭很猛，前鋒已達集寧東北之馬連灘、玫瑰營子一帶。兵團與晉綏軍區首長決定我圍困歸綏部隊暫緩攻城，除留一部繼續監視守敵外，主力迅速東轉，先打援敵。兵團命令，我縱隊於三十日到達綏東天成地區待命。
我和韓偉、趙冠英、劉國樑簡單商量了一下，隨即撤圍歸綏，揮師東進。那時，綏東地區陰雨淅瀝不斷。部隊出發時雨下得更大了，戰士們冒雨前進，雨具不足，背包都被雨水打濕，更增加了負重。進入綏遠境內以來，幹部戰士連日行軍作戰，十分疲勞，但聽說敵軍已經按照我們的意圖，西調綏遠，自己送上門來，好讓我們在運動戰中把它消滅，個個精神振奮，在“剁掉骨頭吃肥肉，殲滅援敵打歸綏”的口號鼓舞下，逢山跋山，遇水涉水，日夜兼程，以每日百餘里的速度向東疾進。為了和敵人搶時間，同志們顧不上做飯、燒水，餓了啃口於糧，渴了喝口涼水，堅持前進；一路上，宿營很少，有時住下幾個小時，打個盹又往前走，睡魔成了大家的主要“敵人”，幹部戰士邊行軍邊打盹，三十日拂曉，我縱隊按預定時間到達天成附近之麥胡洞、淤泥灘、三義泉地區；友鄰縱隊同時到達指定的地域；原佔領集寧的我八縱隊，也於三十日上午主動撤離該城，轉至官村西南一線，參加打援行列。兵團與晉綏軍區首長決定，以一部與敵保持接觸，誘敵深入，迫敵分散後殲其一路。但狡猾的敵人覺察了我軍意圖，深恐被殲，採取了集團前進的辦法，使我一時不能獲得戰機。
我三兵團與援綏敵軍於集寧、天成一線對峙時，東線我軍第二兵團和冀熱察軍區部隊為策應三兵團行動，進一步調動敵人，趁敵軍主力西援之機，對平承鐵路和平綏路東段展開了猛烈的進攻。一周之內，先後攻克察北之崇禮、尚義、沽源、商都和宣化以東之趙川堡，在北平與宣化之間數處切斷平張路，直接威脅張家口。傅作義被迫放棄了援綏計劃，命令西援敵軍火速回救張家口。十月四日，援敵調頭東返，我二縱和友鄰縱隊一起乘勢收復了集寧、興和、老平地泉、玫瑰營子等要點。這次東進，我軍雖未獲得戰機，但和二兵團遙相呼應，給了敵人以很大威脅。從此，傅作義集團將大部分兵力龜縮在平張線上，陷入了更大的被動。