杜聿明自以為是的估計中有很多失誤，其中一個致命的失誤就是錯誤地估計了毛澤東和粟裕對他的密切監視。
我華東野戰軍在消滅了黃百韜兵團之後，就做好了連續作戰、連續打大仗的準備，因為黨中央早已明確，消滅黃百韜兵團只是淮海戰役的第一階段，我們的目標是要消滅徐州戰場上的國民黨軍隊全部有生力量。為此，毛澤東和中央軍委特地向兩支野戰軍發出了“不怕疲勞傷亡，連續作戰，將敵人徐州集團主力全部消滅於長江以北”的號召。為了達到這一目的，當中央軍委和淮海前線總前委確定了“南北堵，中間圍”的方針，當黃維兵團被包圍之後，毛澤東曾經在11月28日給華野發瞭如下電報：
粟、譚：
（一）中野已在雙堆集包圍黃維，4天中粉碎敵兩次突圍。華野南線各縱隊已殲李、劉一部，北線各縱隊完全阻止了徐州之敵南進。
（二）在此情況下，須估計徐州之敵有向兩淮或武漢逃跑之可能。
（三）你們現在的重心是嚴密監視徐州之敵，勿使南竄，望你們據此佈置今後之工作。
當華野得到毛澤東這一指示之後，總部幾位負責人就此進行了認真的討論。他們認為，徐州的敵人要跑，這已經是必然之勢，現在應當仔細研究的，是其逃跑的時間和路線的問題。徐州敵人可能逃跑的路線有三種可能：一是經連雲港從海上跑；二是向東南走兩淮，而後經蘇中再轉京滬；三是沿津浦路西側繞過山區南下。研究結果，認為第三種可能最大。這是因為，如果要從連雲港走海路，準備船隻、碼頭都要花時間，假若時間慢了，就會被我大軍尾追，形成背海作戰，很可能在大海邊全軍覆沒；如果要從津浦路以東走兩淮南下蘇中，就必須經過河網密集地區和一大片我軍控制多年的老根據地，將遭到多處阻擊；如果是從津浦路以西繞過山區南下，則地形開闊，便於敵人的機械化部隊行軍，又能夠與李延年、劉汝明兵團相互呼應以援救黃維，萬一不成，也可能退守淮河。所以，粟裕斷定杜聿明要採取第三種可能，他說：“這第三種可能才像是一個黃埔高才生的思路。”因此，華野的主力要放在敵人從津浦路西邊向南逃跑的這種可能上。粟裕把這個意見向中央做了報告，得到了毛澤東和中央軍委的認可。
這時，中野的力量已經完全用於包圍黃維兵團，對付杜聿明集團和對付李延年、劉汝明集團的任務，主要落在了華野的肩上。所以，11月28日，華野前委和野戰軍政治部向部隊發出了政治動員令：
當徐州之敵傾巢南犯，或向西南逃竄，或向兩淮逃走，則應不顧一切，不惜任何傷亡代價，堅決地、徹底地予以全部殲滅，不讓敵人逃到江南。
應當說，華野領導對於杜聿明可能的撤退路線的判斷是完全正確的，當然這其中也有可能改變的時候。 11月29日開始，邱清泉兵團加強了向兩淮方向的攻擊，徐州東南的阻擊線上，敵人出動了數十架飛機、百餘輛坦克，還有上百門重砲，幾萬敵人在陣地上反复衝殺。宋時輪指揮的十縱可以說是用盡了全力，仍然十分困難。這時，有的同志認為敵人是否要從徐州東邊突圍？粟裕在認真分析之後，並未改變他原來的判斷，反而堅定了他的判斷，他認為，這是敵人在向西南撤退之前的假象。他一方面讓司令部把當時能收集起來的彈藥給十縱送去，要宋時輪無論如何也要頂住；一方面將十縱作為預備隊的一個戰鬥力很強的師調到敵人從西南方逃竄時最可能經過的青龍集布防。
但是，在對於敵人甚麼時候全部撤退這一點上，粟裕確實未能想到會是這樣快。所以，當他在12月1日凌晨得知杜聿明集團已經撤出徐州時，華野對杜聿明集團的阻擊包圍行動還未能到位。嚴格說，華野的行動比敵人的行動晚了一天。好在杜聿明的撤退方向與路線完全符合華野在事前的估計，所以，粟裕在12月1日立即下達了一道道緊急命令，調動華野主力全線追擊，盡快形成對杜聿明集團的包圍，必須按中央軍委事前就已做出的部署，堅決將其包圍，繼而予以殲滅，不讓敵人逃至江南。第二天，毛澤東特地電告粟裕和譚震林、陳士榘等華野領導人：
“敵向西逃，你們應以兩個縱隊，側翼兼程西進，趕至敵人先頭堵住，方能圍殲，不能單靠尾追。”毛澤東和粟裕的命令通過各種通信方式，迅速傳達到各個部隊，各個部隊也以最快速度展開行動，迅速到達了指定位置。
華野三縱、八縱、九縱和魯中南縱隊（魯中南縱隊原定作為總前委的總預備隊參加圍攻黃維兵團，尚未投入戰鬥），分別由城陽、桃山集出發，飛速直插瓦子口、濉溪口、祖老樓一帶，進行平行追擊，阻擊南逃之敵。這四個縱隊，也就是國民黨空軍在空中所見到的我軍的主力部隊。
華野一縱、四縱、十二縱分別由雙溝、褚蘭、潘塘出發，並列向西北方向的徐州、蕭縣之間開進，將敵人咬住，進行側擊追殲。
已經進入徐州城中的渤海縱隊，只留一個師在城內進行警備，另兩個師立即出城，對逃跑中的敵人進行尾隨跟踪，趕上了就殲擊。
華野二縱和十縱從宿縣地區向永城方向前進，將逃跑的敵人迎頭截住。
華野十一縱由固鎮西南地區全速向渦陽、亳州地區前進，在阻擊敵人南逃的方向築起第二道防線。
華野十三縱已經參加圍攻黃維兵團的戰鬥，此時屬中野指揮，粟裕請求中央軍委和淮海前線總前委批准，將其歸還華野指揮，北上參加圍攻杜聿明集團。
這樣，粟裕一下子調遣了11個主力縱隊（不包括尚未北上的十三縱）從四面八方向杜聿明集團圍去。從粟裕的調兵遣將可以明顯地看出，他是把更多的兵力放在阻擊敵人南竄的方向上，既不讓敵人逃往永城，也不讓敵人南下濉溪口而靠近黃維，一定要把杜聿明集團南下的道路全部堵住。為了這一目的，粟裕還命令豫皖蘇軍區的地方部隊盡可能控制渦河等幾條河流的渡口，堵住可能漏網南下的敵人，延緩敵人的行軍速度。
在當時的追擊隊伍中，部隊的文藝工作者編了一首《乘勝追擊》的戰地歌曲，歌詞是這樣的：
追上去！追上去！不讓敵人喘氣！追上去！追上去！不讓敵人跑掉！看，敵人動搖了，敵人混亂了，敵人潰退了，敵人逃跑了。同志們，追上去！不怕困難，不怕飢寒，逢山過山，逢水過水，乘勝追擊！迅速趕上，包圍他，殲滅他！
粟裕和他的夫人楚青後來在回憶這一過程時說，在整個淮海決戰中，這些天是粟裕第二次感到緊張的時刻：
非常危險啊！儘管我們估計到了他們的撤退方向，卻沒有想到他們撤得這麼快。有的縱隊又突然失去了聯絡，怎麼也找不著了！萬一讓他們30萬部隊撤到淮南，問題就大啦！
就在華野的各路大軍以自己的鐵腳板與敵人的汽車輪子、坦克履帶展開一場星夜奔馳的競賽之時，粟裕在他的指揮部中得到了總前委書記鄧小平的電話。鄧小平提醒粟裕：杜聿明是在永城東北先停下來後被華野包圍的，所以，杜聿明很可能已放棄了西撤永城的計劃，而是想乘我們實施追擊、部隊脫離陣地之際，稍加整頓，突然殺我們一個回馬槍，向南突圍，向黃維靠攏，與南線的李延年、劉汝明兵團配合，救出黃維，一起逃往淮南。粟裕在電話中告訴鄧小平說，他們已經估計到了這種可能，已採取了措施，在向敵人大膽穿插分割的同時，已經命令包圍圈東南方向的三縱和魯中南縱隊在劉園、許小凹、港莊以北一線構築工事建立防線，準備阻擊敵人。鄧小平聽到粟裕的部署之後，會心地笑了。
就在給粟裕打招呼的同時，對戰局考慮用心極細的鄧小平在總前委還下達了另外一道十分重要的作戰命令。鄧小平知道了杜聿明預定的第一個撤退目的地是永城。從各方面估計，杜聿明很可能改變方向，不會再攻到永城，何況我各路大軍已向敵人圍了上去。但是，不怕一萬，就怕萬一，萬一敵人仍然要沖向永城，萬一敵人的機械化部隊以它的高速度行軍衝到了我圍堵部隊的前面而到達了永城，我軍的包圍計劃就可能落空。為此，鄧小平給位於永城附近的豫皖蘇軍區司令員張國華下達了一道命令，告訴張國華：華野大軍已經全面出動，圍堵從徐州向永城撤退的杜聿明集團，為防止萬一，張國華必須立即率所屬部隊到永城布防，如果敵人到達了永城地區，豫皖蘇軍區的部隊必須堅決把敵人堵住，哪怕打到一兵一卒，也要把杜聿明堵住。應當說，這道命令對於張國華來說，擔子是壓得重了一些，因為要以豫皖蘇軍區的地方部隊去阻擊杜聿明的美式機械化部隊，難度的確太大。但是，由於能否堵住杜聿明集團的去路這一問題是關係到能否包圍住杜聿明集團的關鍵，再難也得上，再難也得堵。在這種情況下，鄧小平的決定顯示出了他在大戰面前超乎尋常的堅毅與果斷。後來，由於華野主力阻擊計劃的實現，杜聿明集團的部隊未能到達永城就被完全堵住了，所以張國華的部隊也未能與杜聿明的部隊交手。但是，鄧小平下的這一步棋屬於下一步看兩步的一著高招。
在粟裕的指揮下，華野大軍除了在南線阻擊李延年、劉汝明兵團的六縱和已經參加圍攻黃維兵團的三縱、七縱，全部主力都投入了包圍杜聿明集團的戰鬥。各部隊從各自的駐地出發，全都朝著杜聿明集團的方向開進，最快的二縱在12月2日晚上就在蕭縣西南的王寨追上了邱清泉兵團的七十軍，一口就將其三十二師的九十六團全部吃掉。華野九縱是南路的先鋒，七十六團是先鋒團，也是在2日的夜間，他們正抄小路往前趕時，竟然一直插進了敵人的隊伍，而敵人還未發現，我軍一下子就抓了一大批俘虜。一個名叫詹美玉的班長抓到了第一個俘虜，竟是副軍長許長林。許長林原來是第三綏靖區七十七軍的副軍長，第三綏靖區的大部分部隊在何基灃、張克俠領導下起義時，七十七軍有5000多人未參加起義，雖然逃回了徐州，但已是殘軍，被撥給十六兵團孫元良指揮，這時也跟著十六兵團一起南撤，他同七十七軍的軍部以及特務營就都當了俘虜。
12月3日，華野司令部根據當時已初步對杜聿明集團形成包圍的戰況，給各縱隊下達了以下電令：
據近日各方獲悉，至今晨為止，邱、李、孫主力似仍被我滯阻於永城、碭山之線以東，蕭縣以西隴海路右側地區。邱匪主力似正向大回村地區攻擊，一部分在芒碭山至孟集、孫樓地區；李匪四十二師聯絡中斷，一六六師正於張新集被我圍殲中，其主力似在張大屯、大吳集、袁圩地區；孫匪掩護“剿總”機關，似仍位於蕭縣以西，大紅廟、吳集以北地區。據此判斷，敵似採取集團滾進、穩進突竄方針，既已被我滯阻於蕭、永以北，碭、永以東地區，則有現地固守，尋機突竄之可能。我決趁敵立足未穩、陣腳混亂之際，堅決截堵其向西南突竄道路，壓迫其向北、向西北，並先集中主力楔入其縱深，割殲其後尾一部，爾後再分批逐次各個殲滅之。
根據華野司令部的命令，華野各部為了完成對敵人的包圍，各部都盡可能向前推進：九縱從敵人南面繞過了敵人，從大回村以西、永城以北向北方插到薛家湖地區，然後在芒碭山地區與從徐州東南追趕過來已經在敵人北邊的一縱會合，位於敵人的西北邊；八縱到達了永城的苗橋地區，位於敵人的西南邊；二縱和十一縱到了永城以東地區，位於敵人的南邊；三縱和魯中南縱隊到了張集，位於敵人的東南邊；四縱和十縱到了祖老樓地區，位於敵人的東邊；渤海縱隊尾追敵人，到了敵人的東北邊。與此同時，兩廣縱隊等也趕了上來。
12月3日晚上，也就是杜聿明集團轉向濉溪口方向開進之時，華野的各部隊就已經從左右兩翼對敵人形成了大致的包圍之勢，左翼已經到了大回村附近，右翼已經到了薛家湖附近。由於是夜間，兩軍中的一部分已經進入了犬牙交錯的狀態。據杜聿明的回憶：
是晚全線皆有戰鬥，部分解放軍與國民黨軍混淆不清。
如由蕭永公路撤退之第二兵團一個後衛營，遇到解放軍的一個大部隊時，這個營長即冒充解放軍而免於被殲。另有少數解放軍深入國民黨軍內部到處打槍，弄得國民黨軍草木皆兵，敵我不分，各據一村，徹夜混戰。這一軍說“當面之敵攻擊甚烈”，那一軍說“共軍已竄到我陣地後方，正在驅逐中”。甚至指揮部及第二兵團所駐的孟集內外亦發生混戰，戰鬥一直打到我駐的房屋門口，直到4日拂曉前後始漸形沉寂。檢查結果，只發現幾具似農民非農民的屍首及幾個被打死的國民黨軍，此外並無虜獲解放軍的任何證據。這一晚混戰究竟是國民黨軍自相混殺，還是真有解放軍打進來，至今回憶起來還是一個謎。
事後才知道，這天晚上，我軍的確沒有攻入孟集，是國民黨軍隊在混亂中自相驚擾。正是在這樣的混戰中，我軍有不少很輕鬆的斬獲。例如邱清泉兵團在徐州撤退前收羅散兵新成立的一個補充旅，就很輕鬆地被我軍全部解決。孫元良兵團派了一個團去接管補充旅防務，因為不知道已經發生的情況，在派人前往聯絡時，竟把駐在村子中的解放軍誤認為補充旅，全團整隊開進了原補充旅所駐的村莊，猝不及防，被村中的解放軍全部消滅。
但是，華東野戰軍的各部隊在這時的任務只是在按指定位置展開，把敵人包圍在蕭縣與永城之間，所以並無甚麼大的戰事發生。在經過了一些不大的戰鬥之後，粟裕對各部隊的位置又做了一定的調整，我軍對杜聿明集團的包圍圈在12月4日基本完成。
12月4日這天，華野的九縱、八縱、二縱、十一縱、三縱、十縱以及冀魯豫軍區獨立一旅和三旅共20餘萬人全部到達了王引河一線，在敵人前面的東西二十多公里的正面構築起了袋形防禦陣地。一縱、四縱、十二縱、兩廣縱隊、魯中南縱隊的十幾萬大軍則佈置在敵人背後的洪河集一線。
這樣，杜聿明集團的全部軍隊以及附帶從徐州一道逃出的軍政人員、商人、學生等，都被包圍在永城東北的以陳官莊、青龍集、李石林為中心的一個小圈子裡。
當包圍圈基本形成以後，粟裕估計敵人很可能要繼續向南突圍，便針鋒相對地做出了相應的部署。敵人要一面突圍、三面掩護，華野就安排一面阻擊、三面進攻。也就是說，在南邊堅決阻擊敵人的突圍，在東、西、北三面對敵人發起進攻，而且要求進攻的部隊要盡可能地打縱深戰，大膽插入敵人內部，把敵人的部署盡可能打亂。為此，粟裕對華野的部隊做了新的調整：
由二兵團（即山東兵團）政委譚震林、副司令員王建安統一指揮葉飛的一縱、陶勇的四縱、聶鳳智的九縱、曾生的兩廣縱隊，以及冀魯豫軍區的獨立一旅、獨立三旅，在北邊向南進攻，力求插入敵人的縱深陣地。
由四兵團（即蘇北兵團）司令員韋國清、副政委吉洛（即姬鵬飛）統一指揮滕海清的二縱、張仁初的八縱、胡炳云的十一縱，由西南向東北攻擊，並佈置縱深的阻擊陣地。
由十縱司令員宋時輪、副政委劉培善統一指揮的八縱和孫繼先的三縱、傅秋濤的魯中南縱隊，由東南向西北攻擊，並佈置縱深的阻擊陣地。
這樣，在寒冷的淮北大平原上，形成了兩個大的包圍圈，南邊是被包圍的黃維集團，北邊是被包圍的杜聿明集團。我淮海前線總前委和中野的司令部則設在這兩個包圍圈之間的小李莊，距黃維和杜聿明都只有幾十公里地，天天都有若干架國民黨空軍的飛機從小李莊上空飛過，可是，他們無論如何也想不到，指揮我兩大野戰軍幾十萬大軍圍攻國民黨幾十萬大軍的指揮部，就在這個一點也不起眼的小村子裡。