徐州戰場上國民黨軍隊的真正統帥杜聿明是在11月11日才到達徐州的，用他自己的話說，是“以赴刑場之心情上戰場”。這時候，黃百韜兵團已經被圍，何基灃和張克俠已經起義，他認為徐州戰局大勢已去，已經在被動挨打。但是，在當時他又只能為蔣介石“效忠到底”。所以當他在離開南京時，顧祝同曾經徵求他的意見：“你們兩人（指徐州'剿總'司令劉峙和他這位副總司令）都在徐州指揮，有些不大方便。叫劉峙到蚌埠去指揮，好嗎？”
杜聿明說：“指揮大兵團作戰，情報補給是一項極其複雜的事務，總部一離徐州，我的機構不健全，勢必形成癱瘓，影響作戰。請總長放心，我同劉老師不會發生摩擦的。”但是，杜聿明又說：“請總長允許我一個要求，就是解黃百韜之圍的戰略戰術、兵力部署，我不一定照今天會議（按：指當天蔣介石主持召開的軍事會議，會上通過了由國防部第三廳廳長郭汝瑰提出的以不向南撤、固守徐州、全力解黃百韜之圍為中心的軍事計劃）決定的去做。”
顧祝同當即表示同意，說“可以，可以，你怎麼決定，就怎麼辦好了”。很明顯，顧祝同很清楚杜聿明是看不起劉峙的，而顧祝同（當然也代表蔣介石）是把徐州戰局的指揮大權交給了杜聿明的。因為顧祝同很清楚，在徐州戰場上真正能起指揮作用的統帥只能是副總司令杜聿明，而不是總司令劉峙。
正是因為這種原因，蔣介石在杜聿明原有的徐州“剿總”副總司令的頭銜（這個職務自1948年6月任命以來一直就未正式宣布免職，包括杜聿明去東北擔任東北“剿總”副總司令兼冀遼熱邊區司令官大約一個月的這段時期）之外又給他加上了一個兼職，叫徐州“剿總”前進指揮部主任。也就是說，杜聿明現在在徐州的正式職務應當叫徐州“剿總”副總司令兼前進指揮部主任，雖然杜聿明一直也未能專門有過什麼前進指揮部。
劉峙對這一安排也非常高興，因為他早就想由杜聿明來替他指揮，為他承擔一切責任。而既有了前進指揮部這個名義，劉峙任何時候都有理由把他的總部後撤到後方安全地區，而讓杜聿明一直在前方以前進指揮部的名義指揮作戰。
杜聿明是在11月10日乘坐蔣介石為他準備的專機離開南京前往徐州的，這架飛機曾經多次飛過從南京到徐州這條航線，可是今天卻在空中迷失了方向，找不到徐州了。飛機一直飛到了黃河邊上，才發覺飛過了頭，又回頭來找徐州。駕駛員不得不事先發出警告：“再過一小時找不到的話，飛機就沒油了。”幸好找到了徐州，不過，當飛機安全降落在徐州機場時，已是第二天凌晨了。這事對杜聿明內心影響很大，心中想是不是“天要滅蔣”？
在杜聿明來到徐州之前，劉峙對戰局的判斷認為解放軍的目的是要攻取徐州，特別當11月8日何基灃和張克俠在賈汪起義之後，他更認為從山東南下的華東野戰軍是攻打徐州的。所以，他在11月9日所下達的作戰命令都是為了保衛徐州。他命令黃百韜兵團到徐州東南的潘塘、徐山村、六鋪圩一帶集結，命令李彌兵團向徐州東北的大湖、荊山鋪、茅村一帶集結，命令邱清泉兵團在徐州西北黃口地區集結，命令孫元良兵團從蒙城趕往徐州以南的宿縣、符離地區集結。總之，是要從四面八方守衛徐州。很明顯，這是一個完全未能對我華東野戰軍作戰意圖作出正確估計的錯誤部署，既脫離實際情況，又十分被動。正是劉峙所犯的這個錯誤，把李彌兵團向西調，使李彌兵團和黃百韜兵團之間出現了空隙，我華野山東兵團才得以飛速插入其間，隔斷了李彌和黃百韜，完成了對黃百韜的包圍。
在對徐州戰場上雙方的情況有了具體的了解之後，杜聿明對戰局有了基本的判斷，認為解放軍目前的作戰目的並不是要進攻徐州，而是要集中主力先消滅黃百韜兵團，同時以一部分兵力來打援。徐州以北的解放軍人數不多，而且可能並非主力，是用來起牽製作用的。基於以上認識，可以抽出較多原來用於防守徐州的力量去解救黃百韜。應當認為，杜聿明的判斷大致不誤，要比劉峙高明得多。但也有失誤之處，這就是他以為我軍主力全在包圍黃百韜，而是以次要力量來打援。其實我軍包圍黃百韜的兵力是5個縱隊，不到華野16個縱隊的一半。而我軍用於打援的兵力則要比包圍黃百韜的兵力多得多，更何況還有中原野戰軍的力量。杜聿明低估了我打援兵力的失誤，對今後國民黨軍隊的節節失利是有明顯影響的。
根據上述判斷，杜聿明製訂了兩套作戰方案。第一是要黃百韜堅守7～10天，在這段時間中，集中力量先擊破徐州西邊的中原野戰軍，然後再回過頭來解救黃百韜兵團。這一方案的好處是可以集中10個軍的兵力，先打中野，後打華野，有把握，風險不大。關鍵是黃百韜能不能守住7～10天。第二是以部分兵力守徐州，而以主力先救黃百韜，同時急令黃維兵團向徐州前進，用以增加徐州的兵力。這一方案的好處是比較穩妥，但黃維能否盡快趕到徐州，沒有把握。在經過討論之後，第二個方案被劉峙等人所接受。
11日午後，由劉峙下達了作戰命令：以十六兵團（即孫元良兵團）和第二兵團（即邱清泉兵團）的七十四軍負責徐州的守備，並註意對徐州以西的警戒；以第二兵團餘部和第十三兵團（即李彌兵團）援救黃百韜，迅速向碾莊攻擊前進；以七十二軍為總預備隊。
命令一下達，邱清泉兵團和李彌兵團在11月13日即開始出動，向東實行正面攻堅，企圖解黃百韜之圍。
但是，雖然命令下達了，行動也展開了，可杜聿明仍然感到心中很不踏實，對下一步的軍事行動更是感到難以把握。之所以出現這種心情，是由於國民黨軍隊當時在老百姓心目中的形象實在太壞了，且不說在解放區，就是在國統區，也很難得到老百姓的支持，不容易搞到準確的情報。用杜聿明自己的話說，“在淮海戰役之始，徐州附近人民對於國民黨軍實行了嚴密封鎖，國民黨軍的特務只能派出，無法返回。徐州周圍密布的特務電台完全失去了作用，甚至有許多地區的老百姓以虛報實，或以實報虛，迷惑國民黨軍。如豐縣黃口之間僅有解放軍第二、第三野戰軍之一部，而國民黨軍隊從老百姓方面得來的情報是二野主力；又如二野主力已先到渦、蒙（按：即安徽的渦陽與蒙城）地區阻擊黃維兵團，而國民黨軍得來的情報則是這一地區沒有解放軍的野戰軍”。因此，杜聿明擬定作戰計劃時，經常說的一句話就是“苦於情況不明，無法決定”。
正是由於上述原因，當時的杜聿明雖然得到了徐州地區幾十萬大軍的指揮權，可是他卻並不清楚我中原野戰軍和華東野戰軍的具體動向，不知道中原野戰軍和華東野戰軍的統帥將對他所指揮的幾十萬軍隊進行怎樣的打擊。
作為一場軍事史上罕見的大戰，國共雙方有一件大事頗為相似：雙方的統帥都是經過了一段時間才最後確定的，都是在已經打響之後才最後確定下來的。
毛澤東和中央軍委對於淮海決戰的計劃有一個經過實踐不斷發展變化的過程，有一個從當初的“小淮海戰役”到“大淮海戰役”的發展變化過程。在初期的“小淮海戰役”階段，毛澤東和中央軍委是把指揮任務交給華野的粟裕負責的。但是，從一開始中野就在進行配合，中野陳再道指揮的二縱和王近山指揮的六縱奉中央軍委之命在河南南部和湖北北部活動的主要目的，就是為了將武漢的白崇禧集團牽制住，不讓其向東增加華野的壓力。當處於最前線指揮作戰的粟裕看到這一戰役的規模愈來愈大，已經成為華野和中野兩大集團軍聯合行動的大決戰時，就於10月31日夜致電中央，“此次戰役規模很大，請陳軍長、鄧政委統一指揮”（當時劉伯承率領中野的二縱與六縱還在豫西箝制白崇禧集團，而陳毅和鄧小平在攻克鄭州、開封之後正率領中野的一縱、三縱、四縱、九縱向徐州、蚌埠方向開進）。
第二天，毛澤東和中央軍委即電示陳毅、鄧小平、粟裕，並告華東局與中原局“整個戰役統一受陳、鄧指揮”。
11月16日，正當圍殲黃百韜兵團和阻擊邱清泉、李彌兵團的戰鬥打得緊張之時，毛澤東起草了由中央軍委名義發出的電報，這個電報發給了在華東、中原和華北地區的所有黨政軍部門和所有高級幹部，即劉伯承、陳毅、鄧小平、粟裕、陳士榘、張震、譚震林、王建安、韋國清、姬鵬飛，華東局、中原局、豫皖蘇分局、蘇北工委、華北局。電報中說：
中原、華東兩軍，必須準備在現地區作戰三個月至五個月（包括休整時間在內），吃飯的人數連同俘虜在內，將達80萬人左右，必須由你們會同華東局、蘇北工委、中原局、豫皖蘇分局、晉冀豫區黨委統籌解決。此戰勝利，不但長江以北局面大定，即全國局面亦可基本上解決。望從這個觀點出發，統籌一切。統籌的領導，由劉、陳、鄧、粟、譚五同志組成一個總前委，可能時，開五人會議討論重要問題，經常由劉、鄧、陳三人為常委，臨機處置一切，小平同志為總前委書記。
從整個中國人民革命戰爭史來看，成立如此強大的一個前線委員會來指揮作戰，這是第一次（這以後，在平津戰役中，也成立了總前委）。以鄧小平為書記的總前委的成立，是淮海戰役能取得勝利的重要保證。總前委的成員一個個都是身經百戰、指揮過千軍萬馬，在廣大指戰員心目中有著很高威望的一方大將，更何況又是結合在一起發揮他們的集體智慧。可以這樣說，把其他重要因素統統排開，單是從雙方在戰場上的統帥部陣容來看，以中國共產黨這五位身經百戰的指揮員去對付一個杜聿明，淮海決戰誰勝誰負已經是確定無疑了。
不過，早在總前委成立之前半個月，毛澤東和中央軍委就已經接受粟裕的建議，決定當時淮海戰役的戰事由陳毅和鄧小平統一指揮，也就是說，早在總前委正式成立以前，中國革命最傑出的一批統帥就已經在集體領導這一場大戰了。
1948年10月22日，根據中央的部署，為了牽制孫元良兵團東撤到徐州地區，陳毅和鄧小平正在率領中原野戰軍攻打鄭州，毛澤東就在給他們的電報中做出指示：
陳、鄧攻鄭作戰完全不受南面威脅。因此，為了保障我華野全軍在淮海戰役中完全勝利，請你們準備著，在攻克鄭州休息數日後，迅即全軍東進，相機攻占開封。或者不打開封，直出徐蚌線。
當陳毅和鄧小平得到毛澤東的電報之後，當天就回電錶示，完全按照中央部署，將“直出徐、蚌，箝制孫、劉（按：指徐州以西的孫元良和劉汝明），協同華野作戰”。
第二天，即10月23日，毛澤東在給陳、鄧等人的電報中，對中原野戰軍的行動做了更進一步的明確指示：
“陳、鄧東進與三縱、廣縱（按：指華東野戰軍的三縱和兩廣縱隊）諸部會合後，第一目標是殲滅孫元良兵團，第二目標是攻占宿、蚌（按：指宿縣和蚌埠）。”對於中央的這一部署，在山東的粟裕等人十分高興，所以，在由粟裕、譚震林、陳士榘、張震聯名向華野全軍下達的淮海戰役預備命令中，就已經將兩大野戰軍連在一起，命令中說：“我陳軍長、鄧政委率部已於22日攻占鄭州，並將轉兵東進奪取開封，爾後繼續向徐、蚌段前進。”
10月22日，中原野戰軍以自己僅傷亡345人而殲滅敵人第四十軍1.1萬餘人的戰績，輕取鄭州。由於敵人聞風喪膽，不戰而逃，所以我軍又在10月24日攻克開封。陳毅和鄧小平隨即於10月底率中野大軍的一縱、三縱、四縱、九縱四個縱隊離開商丘附近的朱口、柘城東進，於11月6日到達徐州西南的臨渙集，並在這裡設立了指揮部，兩大野戰軍聯手殲滅徐州杜聿明集團的大戰正式開始。