泗城失利，淮陰失守，陳毅心急如焚。粟裕見到陳毅時的第一句話：“軍長，我來遲了！”中央指示：兩軍會合後第一仗必須打勝！敵師長戴之奇叫嚷：誰第一個衝上山頂，官升三級，賞金5萬！陳毅賦詩云：“徐州薛岳掩面哭，南京蔣匪應垂淚。”陳毅對前線記者說：粟裕將軍“愈出愈奇，愈打愈妙”。蘇中戰役，我軍大勝，蔣軍損兵慘重。但就整個解放戰爭的全局而言，這些勝利還並沒有改變人民解放軍所處的劣勢，也沒有遏止敵人向解放區進攻的勢頭。
9月10日，蔣介石令第七軍、整編七十四師和第二十八軍向我華中解放區首府淮陰發起全面進攻，淮陰告急。
在此之前，陳毅指揮了泗縣之戰。當時，在泗縣城堅守的敵軍有兩個團。
在泗城戰役之前，我軍剛打完朝陽集的戰鬥，殲敵5000多人，部隊比較疲勞。
故山東野戰軍參謀處和華中分局的鄧子恢、張鼎丞都不同意陳毅攻打泗城的決定。但陳毅偏聽於少數人的意見，終於釀成攻城失利，我八師損失嚴重，士氣受挫。
泗城失利之後，中央考慮陳毅身為山東軍區司令員，要統籌指揮山野和華中野戰軍，兼顧魯南、蘇中和膠濟3個戰場，擬打算派徐向前赴山東指揮軍事。陳毅作為一名戰區指揮員，當然明白中央這一考慮的全部含義，故連電中央表示歡迎徐向前來魯主持軍事。但是等了20多天，徐向前因病沒有前往。
泗城失利，淮陰失守。面對險惡的戰爭形勢，陳毅心急如焚。
9月11日，中央命令剛取得蘇中戰役大勝的華中野戰軍司令員粟裕，率主力火速從蘇中開赴淮陰增援。從蘇中淮安到淮陰約250公里，一路水網，既少陸路，又少船隻，且雨水不停，阻敵不斷，一時難以到達。
陳毅率山野部隊抵抗敵人，激戰至19日拂曉，敵張靈甫之七十四師突破淮陰城門。陳毅遂下令部隊撤出淮陰。
9月下旬，陳毅與粟裕在漣水縣西北陳師庵會合。
陳毅身著半舊軍裝，腰帶上掛著一支手槍，打著綁腿，腳穿白粗布襪子和土布鞋，渾身透出虎虎生氣。粟裕的裝束和陳毅的差不多，只是身材不高，性格沉靜，是一位典型的儒將。
粟裕一見到陳毅就大步迎了上去，敬了一個軍禮，歉疚地說：“軍長，我來遲了。”
陳毅緊緊握住粟裕的手，激動地說：“毛主席來電報，要我等你來後一起商定下一個戰役。我們一如既往，軍事上主要由你考慮，我給你出出題目。”
粟裕連忙說：“我還像過去那樣，盡力當好你的助手。”
參謀處的同志看到陳、粟兩人傾心相談，情真意切，興奮地議論說：“下一仗，一定旗開得勝！”
陳毅、粟裕原都是主張放棄兩淮、不與敵人拼消耗的。
陳毅說：“兩淮丟了，並非壞事。我在馬背上湊成了幾句詩：'誘敵何妨讓兩淮，蔣軍到此好堆埋。運河不是鴻溝界，會見狂潮卷地來。'”陳毅又解釋說：“我們把包袱丟給敵人背，敵人佔了城市，必須分兵把守。佔領的城市越多，敵兵力就越分散。”
粟裕很贊成陳毅的意見，說：“對，這樣敵人用於前線作戰的部隊就逐漸減少，正有利於我們一口一口地把他們吃掉！”
9月25日，新華社華中前線電訊稿，有粟裕在新四軍主動撤離淮陰、淮安後的一次談話。粟裕指出：“我軍的撤出兩淮，絕不是我們軍事上的失敗，而是對蔣軍大規模殲滅戰的開始……侵入淮陰、淮安的蔣軍，終必被殲滅在這些土地上的。”
當然，敵人至死也不會這樣考慮問題。攻占兩淮後，張靈甫得意忘形，大張旗鼓地慶賀“大捷”。蔣介石和他的參謀總長陳誠等也大造輿論，通電對張靈甫“備極嘉獎”，吹噓“蘇北戰事已近尾聲”等等。
同時，粟裕又向中央軍委提出了“華野、山野合併”的建議。分析：為了改變華中局勢，以集中華中、山東兩個野戰軍攻下宿遷，進行宿北戰役，得手後再向西擴張戰果。這樣，使兩大野戰軍合併，更有利於指揮作戰。
毛澤東收到粟裕的電報，非常高興，對朱德說：“粟裕這個同志主意多嘛，你看他又給我們出點子了。”
10月15日，中央軍委給陳毅等發去電報，同意山東野戰軍和華中野戰軍合併，並對兩大野戰軍合併後的人事安排作了明確指示：“山野、華野兩軍集中行動，兩個指揮部也應合一，提議陳毅為司令員兼政委，粟裕為副司令，譚震林為副政委。”
陳毅和粟裕長期共事，關係融洽，這是人所共知的。當時部隊中流傳著一句話，叫做：“陳不離粟，粟不離陳。”充分說明了兩人的密切關係。
當陳毅聽說了這句話後，笑著說：“好嘛，當年在中央蘇區，朱不離毛，毛不離朱，紅軍無往而不勝。今天我們也可以學學毛主席和朱老總的樣子嘛！”
在陳粟多年的合作中，陳毅高瞻遠矚，掌握全局：粟裕多謀善斷，敢打必勝。陳毅對粟裕十分倚重，決心下定後，戰役指揮就放手交給粟裕。粟裕對陳毅也十分尊敬，遇到重大問題，總是先向陳毅請示。在後來華東野戰軍成立後，粟裕還稱陳毅為“軍長”。縱隊報告戰況和請示問題，粟裕答復後，問“軍長有什麼指示？”陳毅總是接過電話說：“粟裕司令的意見，就是我的意見，你們堅決照辦。”
在兩大野戰軍集中行動後不久，毛澤東又來電指示：“兩軍會合第一仗必須打勝。”
那麼，這一仗在哪裡打呢？
陳毅主張山東野戰軍回魯南，華中野戰軍留淮海作戰，或者全軍入魯作戰。因魯南之敵已進占嶧縣、棗莊，威逼山東解放區首府臨沂。
對於陳毅的建議，粟裕有不同意見，上報軍委後，軍委也對此提出了疑問。
粟裕認為，“全軍入魯作戰的設想是好的，但似應在入魯之前爭取在淮海打一個好仗。”
最後經過陳毅、粟裕等進一步的慎重研究，統一了思想，決定暫緩去魯南，先在淮海打一個較大規模的殲滅戰，並將此意見立即報告了軍委。
毛澤東收到電報後立即回電，指出：“決心在淮北打仗甚慰。”“陳（毅）張（鼎丞）鄧（子恢）曾（山）粟（裕）譚（震林）團結協和極為必要。在陳領導下，大政方針共同決定，（你們6人經常在一起，以免往夏電商貽誤戰機），戰役指揮交粟裕負責。”
實際上，當山東、華中兩路野戰軍靠攏後，陳毅就向軍委提出：“華野、山野統一指揮”，“在軍事上多由粟下決心”。
收到毛澤東的電報後，粟裕即向中央表示：“我長期在陳毅同志領導下工作，對他十分尊敬和敬佩，在他領導下心情很舒暢。現在中央、陳毅同志要我擔負這個重責，我決心竭盡全力地挑起這副擔子，當好陳毅同志的助手，使陳毅同志用更多的精力抓全局。”
江蘇宿遷以北的五華頂，本是一片普通的山林野地，1946年12月中旬，卻成了華東我軍統帥們的司令部。正是在這裡，陳毅、粟裕指揮了具有重要意義的宿北戰役。
想打敵人，敵人偏偏就找上門來。
10月底，蔣介石擬定了一個以12個整編師分4路大規模進攻蘇北、魯南的作戰計劃，其部署是：以“五大主力”之一的整編第十一師協同整編第六十九師共6個半旅，由徐州綏署副主任吳奇偉指揮，從宿遷向新安鎮、沭陽進攻。
以“五大主力”之一的整編第七十四師協同整編第二十八師、第七軍共7個旅，由徐州綏署副主任李延年指揮，從淮陰、淮安向漣水進攻。
以第一綏區司令官李默庵指揮整編第六十五師、八十三師、二十五師等6個旅，由東台向鹽城、阜寧進攻。
以第三綏區司令官兼整編第三十三軍軍長馮治安和整編第二十六師師長馬勵武指揮整編第五十九、七十七、二十六、五十一師及第一快速縱隊共9個旅，由台兒莊、棗莊、嶧具向臨沂、郯城進攻。
12月上旬，陳毅提出集中兵力殲滅由宿遷進攻沭陽之敵，正在鹽城指揮作戰的粟裕表示同意。並於12日趕到五華頂山指揮所，協助陳毅指揮作戰。
12月13日，敵十一師十八旅沿宿沭公路進占來龍庵；整編六十九師進占人和圩、安仁集、邵店子、嶂集、峰山、曉店子地區；十一師十八旅依仗著坦克和大砲，很快得手。得手後，十一師師長胡璉迅速向陳誠和蔣介石報功，但陳誠卻在電話中說：“祝賀你，胡師長，但現在暫時不要報告委座，到整個戰役打完了再報不遲，你現在守住你的陣地，配合六十九師作戰，明白嗎？胡師長。”
“明白，我會把握的。”胡璉放下電話後，立即轉臉對他的副官說：“命令部隊堅守陣地，不得隨意進攻。”
敵整編六十九師在下午進占人和圩、安仁集、邵店之後，部隊繼續向峰山鎮、峰山進攻。該師師長戴之奇即刻給吳奇偉打電話，說他的部隊正向峰山進攻。
吳奇偉說道：“戴師長，祝賀你，你是第一個在宿北戰役上為黨國立功的，等仗打完了，我一定在委座面前為你靖功。”
“是，吳主任。兄弟絕不負栽培。”
粟裕針對敵人的態勢，將我方部隊重新作了部署，但在我軍尚來到達指定位置時，敵人已搶先一步，佔領了陣地。
已得到蔣介石嘉許的戴之奇，坐在吉普車內隨部隊行進，並不時地從車裡探出頭來喊道：“弟兄們，加快速度，誰第一個踏上峰山，官升三級，獎賞5萬元。”
根據粟裕的部署，我第一縱隊葉飛部、第八師何以祥部按計劃於12月15日拂曉前，進至新安鎮西南新套子以北地區集結，第七師譚希林、曾希聖部在拂曉前進至西鮑圩（宿遷以北），為西渡沭河、控制宿新公路峒嶺鎮地區作準備；第二縱隊韋國清部於15日拂曉前到韓集、泰山集地區集結；張震率領第九縱隊堅守五華頂、葉海子、來龍庵等既設陣地，遲滯敵人前進；第一師在副師長的帶領下，晝夜兼程北上，準備參戰。
15日早上8點，敵整編六十九師預備第三旅進犯至我五華頂陣地前沿，九縱司令張震說：“先不要打，讓敵人往裡進。讓戴之奇這條瘋狗撲進來倒地之後，我們再卡住他的脖子，狠狠地打。”
戴之奇所部前進無阻，戴為之興奮異常，給從另一路進犯我軍的胡璉打電話：“胡師長，你那裡怎麼樣？我的三旅已經佔領五華頂了！”
胡璉也得意地說：“戴師長，我師弟兄現正呈扇面形狀，向共軍出擊，共軍潰不成軍，已被我各個擊破。戴師長，你再不抓緊，這軍功我可一人包了。”
戴之奇急忙答道：“胡兄，別呀，給兄弟留個機會，不然，讓我如何向委座交待啊！”
戴之奇掛上電話後，立刻命令部隊發起更兇猛的進攻。
張震仍沒有讓部隊還擊敵人，因為他認為敵人還未發現我軍主力的行踪，而且敵人的這種冒進恰恰有利於我軍割裂其戰鬥隊形，各個予以殲滅。
戴之奇求功心切，想不到我軍設好的陷餅正等著他往裡面跳。
16日晨，冬霧瀰漫大地。敵軍在飛機、大砲的掩護下，再次向我軍陣地發起進攻。
此時，陳毅果斷地向我軍指戰員發出命令：“同志們！全殲敵軍整編六十九師的時機到了！我命令：第八師圍殲曉店子的守敵預備第三旅；第一縱全力反攻，割斷敵六十九師和敵十一師的聯繫，第二縱向高圩、李圩出擊！”
當晚，第一縱在葉飛、何克希帶領下，果斷勇猛地插入敵之縱深，佔領了高家窪、傅家湖一線；一部插入曉店子以南，佔領三台山，切斷了敵整編六十九師的退路，並形成了與敵十一師正面交鋒的態勢。第七師在譚希林、曾希聖的帶領下，與第九縱張震部密切配合，趁邵店之敵四十一旅西竄之機，切斷了該旅與其師部的聯繫。
此刻，蔣介石的嫡系六十九師陷入我軍重重包圍之中。
此時的戴之奇已失去昨日的驕橫，急得像熱鍋上的螞蟻，連連向吳奇偉和胡璉呼救。
戴之奇從16日晚一直呼救到次日晨，吳奇偉、胡璉也沒有給他派來一兵一卒。他感到了生命的絕望。
經過激戰，敵峰山陣地終於被我軍攻克。
戴之奇不甘心要點的失守，很快命令部隊約兩團的兵力，由東北、東南兩個方向，朝峰山發起箝攻，企圖奪回失去的陣地。
我軍守山部隊打得勇猛頑強。敵人大砲轟，飛機炸，把山頂籠罩在一片煙火之中。敵人輪番向山上猛撲，都被我軍擊退。
我軍奇取峰山之後，即使駐守在曉店子的敵預三旅陣地裸露在我軍的前沿。我八師當即命二十二團向曉店子發起攻擊。守敵擋不住我軍的強大攻勢，不足半天，該處守敵被全殲。
敵預三旅在曉店子被殲，使戴之奇的六十九師又失去一翼，只好死守待援。奉命援救的敵十一師，則被我阻於六塘河岸而寸步難行。最後，胡璉見增援無望，又擔心被我軍吃掉，只好縮回宿遷去。
18日晨，蔣介石又親自給胡璉打電話，令其再次出兵救援。 8時15分，敵整編十一師再次全力北援，又被我一縱和八師各一部擊潰。此時，戴之奇見增援無望，命副師長饒少偉率六十旅突圍，結果被全殲。
戴之奇在最後無望之際，給蔣介石寫了一封“成仁書”，自斃其命。
19日上午，困守苗莊的敵第四十一旅分兩股向南北突圍，除300餘人逃跑外，全被我軍殲滅。至此，敵整編六十九師全軍覆沒。宿北一役共殲敵2.1萬餘人。
遠在千里之外的毛澤東和中央軍委，密切注視著華東戰局的發展。在宿北大捷的前一天，即1946年12月18日，毛澤東就致電陳毅、粟裕：“慶祝宿沭前線大勝利，望對一切有功將士傳令嘉獎。”“第二步作戰，似以集中主力殲滅魯南之敵，並相機收復棗（莊）嶧（縣）台（兒莊），使魯南獲得鞏固，然後無顧慮地向南發展，逐步收復蘇北、蘇中等一切失地。究應如何，望按實情處理。”
陳毅、粟裕從戰場實際出發，對於第二步作戰，提出了三個方案：一是出擊淮北，逼近徐州，以調動敵人並尋機殲滅之；二是繼續留在蘇北與敵周旋，求殲有可能孤軍冒進的張靈甫之整編第七十四師；三是按軍委意圖回師魯南，殲滅魯南較弱的敵五十九師。
最後決定實行第三個方案，並上報中央軍委。
24日，毛澤東接到陳粟的電報後，認為打五十九師不妥，回電要求：“似應集中25個團左右的兵力與魯南地區殲滅二十六師。”25日，毛澤東再次來電，指示：“魯南戰役關係全局，此戰勝利即使蘇北各城全失亦有辦法恢復。”“第一仗似應打二十六師3 個旅為宜，因該師系魯南主力，該師被殲，全局好轉。”若先打五十九師，恐一時不能解決魯南問題。
根據毛澤東的指示，陳毅、粟裕決定集中27個主力團打敵整編二十六師和快速縱隊共6個團，兵力對比為4.5比1，戰役發起時間定為1947年1月2日24時，要求各部於1月1日拂曉前進至指定地域。
作戰方案製訂以後，部隊開始行動。陳毅、張鼎丞、鄧子恢率司令部人員星夜北返臨沂。粟裕與華野戰將葉飛、陶勇、王建安、郭化若等人一起，組織部隊夜行曉宿，秘密兼程北上。
12月底，氣候已是非常寒冷。此時敵整編二十六師正一字長蛇陣配置在沿峰縣到卞莊的公路兩側長達30公里的狹長地區內。峰縣東南有個村莊，叫馬家莊，二十六師師部就駐紮在這裡。因為部署分散，用坦克巡邏來完善防禦體系。
1947年元旦，陳毅對粟裕說，“蔣介石派軍隊侵占我解放區，姦淫燒殺，無惡不作，搞得人民流離夫所，苦不堪言。現在倒好，二十六師師長馬勵武回到嶧縣過快活年去了。老子偏不讓你過。”
粟裕接著說：“各部隊已按作戰部署到達指定位置，可以準時向敵人發起攻擊。”
1月2日22時，粟裕一聲令下，左、右兩路縱隊向敵二十六師發起攻擊（比原定發起進攻時間提前了兩小時）。
由於過年，敵人疏於戒備，受到我軍攻擊，立刻陷入猝不及防的混戰狀態。敵師長在城裡看戲未歸，部隊無人指揮，一經接戰，便潰不成軍。
激戰到3日晨，右路縱隊主力以勇猛動作攻占了平山、石城崮、北大窯、鳳凰山、白岩、石龍山等要點，殲敵第四十四旅一部，並擊退了由馬家莊向尚岩增援的坦克；第十師一部攻占了四馬寨，佔領了付山口及其南北的高地，切斷了敵人向嶧縣、棗莊的退路；第八師一部攻占了曹家莊，分割了敵第四十四旅和第一六九旅的聯繫。左路縱隊之第一縱隊肅清了卞莊外圍之敵，攻占了塔山一九二高地，將敵五零五團壓縮於卞莊地區；第一師進到魯防、橋樑一線，殲滅敵人一部，割斷了敵整編二十六師和第三十二軍的聯繫。至此，我左、右縱隊達到了對敵整編第二十六師及第一快速縱隊的戰役合圍，並部分地實現了戰術分割，為各個殲敵創造了條件。
3日下午3 時，華野司令部裡的電話鈴急促地響起來。朱參謀接罷電話向正在下圍棋的陳毅司令員報告：“敵人有收縮的態勢”還沒有等朱參謀把話說完，陳毅就說道：“料定有這麼一著。我們就利用它收縮的機會，下命令展開全面進攻。還有，叫通八師王吉文副師長的電話，要他動作快一點攻占馬家莊，把敵人的師部打掉。”
下棋的對手在聽陳司令員發話，手拿著棋子沒有放下，陳毅瞅了對手一眼：“舉棋不定，必失一著。”說著，將黑子“啪”一放，把對方的口給封住了。
3日夜，天空烏云密布，黑得伸手不見五指，敵人乘夜偷偷收縮部署。
我軍不失時機地展開全面進攻：右路縱隊第八師以閃擊態勢攻占了馬家莊，殲滅敵二十六師師部大部，使敵人失去了指揮；第九師主力和第四師十團攻克太子堂，全殲敵第四十四旅；濱海警備旅攻占楊家橋，殲敵一部；同時，魯南特務團也佔領了寨山、鵝山，我左路縱隊之第一縱隊攻克卞莊，並繼續向向城、張家橋、常家漁溝地區攻擊前進；第一師一部兩次攻擊吳莊。至此，敵整編二十六師已被大部殲滅，第一快速縱隊完全陷於孤立，被我緊緊包圍於陳家橋、賈頭、作字溝狹小地區之內。
蔣軍第一快速縱隊，是一支徹頭徹尾的美式裝備武裝的摩托化部隊，是蔣家公子蔣緯國經營多年的“國軍精華”，也是蔣介石的兩張王牌之一。他的全部武器裝備，包括坦克車、裝甲車、榴彈砲以及其它各種輕重武器和彈藥，都是來自美國。部隊是由美國教官訓練的，編制也是美國式的。部隊人員的服裝，從頭到腳，里里外外，統統是美國貨。這支部隊的核心——戰車第一團，開始乾脆由美國的一個上校擔任團長，後來由蔣緯國繼任。這樣的王牌，一張放在東北，一張就放在這裡。
起初，快速縱隊也確實快速了一陣子。它隨二十六師從嶧縣向東進攻後，一路上相當順利。這魯南平原正是坦克、裝甲車等機械化部隊的用武之地。
他們曾開足了馬力，得意地在平原上馳騁著，一個個的村莊，一道道的河流，一簇簇的樹林……迅速地被拋在後邊。幾天以後，就先後拿下了白城、卞莊等許多村鎮，到年底，則開進到馬家莊一線。
但好景不長，在敵第二十六師被我軍殲滅大部以後，這支快速部隊的末日也快來臨了。
至4日上午，敵二十六師基本被殲，第一快速縱隊企圖逃回嶧縣，但天公有意作難，由陰轉雨，雨雪交加，道路泥濘，飛機不能來支援，坦克深陷泥潭。我軍激戰至下午3時，除7輛坦克逃回嶧縣外，其餘悉數被殲。
馬勵武把逃回嶧縣的殘兵敗將召集在一起，發瘋般地喊道：“都和我一塊守城，城在人在，城破人亡，看誰敢後退半步！”言畢，啪啪啪對空連發3槍，第一個衝上城樓，欲與我軍決一死戰。
1月11日，粟裕率3個師的兵力，向嶧縣發起攻擊。敵第二十六師中將師長馬勵武被生擒。 20日，我軍又克棗莊，敵第五十一師中將師長周毓英也被活捉。
整個魯南戰役，我軍殲敵整編二十六師、五十一師和第一快速縱隊5.3萬餘人，繳獲了大量的武器裝備。
對於魯南慘敗，馬勵武在日記中記述道：“此誠餘帶兵以來對外對內作戰損失最慘最痛之一戰也！不僅是個人之不幸，實國家之大不幸也！悔之莫及！”在成為俘虜後，馬勵武懊惱地說：“當本師配屬快速縱隊東進時，可謂聲勢浩大，未料四日一戰，即四面楚歌。”一些被俘的坦克兵也說：“我們在印緬戰場與日軍作戰3年，一直是向前衝，美國人對我們也很看得起，想不到今天敗得這樣慘。”
陳毅詩情滿懷，每每大戰勝利後，都要吟詩作賦，這次也不例外，他寫道：“快速縱隊走如飛，印緬歸來自鼓吹。魯南泥濘行不得，坦克都成廢鐵堆。快速部隊今已矣，二十六師汝何為？徐州薛岳掩面哭，南京蔣匪應垂淚。”
1947年1月，根據中央軍委統一整編全國軍隊決定的方針，撤銷山東軍區、山東野戰軍和華中軍區、華中野戰軍，由這些地區和部隊組成華東軍區和華東野戰軍。
華東軍區以陳毅為司令員，饒漱石為政治委員，張雲逸為副司令員，黎玉為副政治委員，陳士榘為參謀長，舒同為政治部主任，轄魯南、魯中、膠東、渤海、蘇北、蘇中等6個軍區及濱海分區和東江縱隊，共約36.6萬餘人。
華東野戰軍以陳毅為司令員兼政委，粟裕為副司令員，譚震林為副政治委員，陳士榘為參謀長，唐亮為政治部主任。轄第一縱隊（含第一、第二、第三師和獨立師），葉飛任司令員兼政治委員；第二縱隊（含第四、第五、第六師），韋國清任司令員兼政治委員；第三縱隊《含第七、第八、第九師），何以祥任司令員，丁秋生任政治委員；第四縱隊（含第十、第十一、第十二師），陶勇任司令員，王集成任政治委員；第六縱隊（含第十六、第十七、第十八師），王必成任司令員，江渭清任政治委員；第七縱隊（含第十九、第二十、第二十一師），成鈞任司令員，趙啟民任政治委員；第八縱隊（含第二十二、第二十三、第二十四師），王建安任司令員，向明任政治委員；第九縱隊（含第二十五、第二十六、第二十七師），許世友任司令員，林浩任政治委員；第十縱隊（含第二十八、第二十九師），宋時輪任司令員，景曉村任政治委員；特種兵縱隊，陳銳霆任司令員，張藩任政治委員。
另外，原華中野戰軍第七縱隊改為第十一縱隊，兼蘇北軍區（轄第三十一、第三十二旅和3 個軍分區），管文蔚任司令員，吉洛任政治委員；第十縱隊與蘇北軍區一部合編為第十二縱隊，兼蘇中軍區（轄第三十四、第三十五旅和3 個軍分區），陳慶先任司令員，曹獲秋任政治委員。
整編後，華東野戰軍約有27.5萬餘人（不包括第十一、第十二縱隊）。
遵照中央軍委指示，華東野戰軍主力在魯南戰役後擬在臨沂地區休整兩週。但1月31日，國民黨軍隊發動了新的進攻。
蘇北、魯南連遭慘敗，蔣介石認為薛岳指揮不力，遂派參謀總長陳誠前往徐州指揮。陳誠煞費苦心地制定了一個“南北兩大兵團對進夾擊臨沂，殲滅陳毅主力於沂蒙山區”的作戰方案。
南線以8個整編師組成主力突擊兵團，由整編第十九軍軍長歐震指揮，從徐州地區向北推進，直取山東解放區首府臨沂。北線以7個師組成輔助突擊兵團，由第二綏區副司令李仙洲指揮，從濟南以東地區向南推進，直撲萊蕪、新泰、蒙陰。
陳誠嚴令各部：“黨國成敗，全看魯南一役，只許成功，不許失敗。”
並要求各部嚴格遵守他親自製定的16字方針：“集中兵力，穩紮穩打，齊頭並進，避免突出”，從而“使共軍無隙可乘，將共軍擠死在夾縫裡”。
面對來勢兇猛的敵人，華東野戰軍計劃集中50個團的兵力，尋機殲滅南線之敵一部。但敵軍齊頭並進，步步緊逼，我難於分割敵人，創造戰機。
粟裕十分焦急，整天待在地圖前沉思。
2月4日，中央來電強調：敵愈深入愈好打，我愈打得遲愈好，只要你們不求急效，並準備於必要時放棄臨沂，則我必能打勝。
中央關於心要時放棄臨沂的指示，使陳毅深受啟發。他對粟裕說：“我有一個設想，既然南線敵人密集，戰機難尋，而北線敵人孤軍深入，何不改變原定作戰方針，置南線敵人重兵團於不顧，而以主力北上，以絕對優勢兵力，殲滅北線之敵。你好好考慮一下是否可行。”
粟裕對陳毅的設想進行了認真的考慮，然後高興地對陳毅說：“軍長，我覺得你的設想十分高明。敵人認定我必固守臨沂。我軍突然北上，定可出敵不意。這樣，我既可置南線之敵強大兵團於無用武之地，避免不利決戰，又可殲滅北線之敵一部，粉碎敵軍南北夾擊的企圖。”
陳毅滿意地說：“完全對頭。”
粟裕又接著說：“打北線之敵的最大顧慮，是恐敵發現我軍主力北上，向回收縮，使我軍撲空。因此，最重要的是準確掌握敵情和戰機，隱蔽我軍意圖，製造敵人錯覺，迅速抓住李仙洲集團。我計劃將韋國清二縱與何以祥三縱留在臨沂，偽裝主力，迷惑敵人。”
陳毅又連連點頭：“對頭，對頭，我完全同意。”
為迷惑敵人，粟裕在給韋國清、何以祥佈置任務時說：“你們要協同地方，大量徵集門板、木料，在臨沂及其以南採取寬大正面防禦，構築三線陣地，擺出一副決戰的架式，節節阻擊，與敵糾纏，造成我主力就在臨沂附近的假相。”
粟裕還令充州附近的地方武裝，積極進逼兗州，並在運河上架設浮橋，在黃河邊籌集船隻，聲言要與劉鄧中原部隊會合，造成我軍主力西渡運河、黃河模樣，使敵人難以判斷我北上意圖。
為了造成我軍向南突擊的假相，2月6日，韋國請率領二縱發起討伐郝鵬舉的戰鬥，全殲郝鵬舉總部及其2個師，郝鵬舉被活捉。
郝鵬舉原是被國民黨收編的偽軍，郝本人是一個國民黨反動軍官，反复無常，看風使舵，善搞政治投機。
1946年1月9日，在我強大的軍事壓力和政治爭取下，他率部在台兒莊起義，表示反對蔣介石打內戰，受到我山東軍民的寬待。時隔一年，1947年1月27日，當蔣介石南北夾擊我山東解放區時，他又投靠蔣介石，得了個第四十二集團軍的番號，配置在南線敵軍左路，擔任側翼掩護。
郝鵬舉為了表忠於蔣家王朝，竟槍殺了我軍派到郝部的聯絡員朱克清。
陳毅聞訊，十分憤恨，嚴令韋國清，堅決拔掉這顆釘子。
經過一晝夜戰鬥，2月7日黃昏，郝鵬舉全軍覆沒。
郝鵬舉被俘後，於2月13日被押到臨沂附近的某村。郝提出要面見陳毅將軍，陳毅表示可以接談。
垂頭喪氣的郝鵬舉被押了上來，他臉上曾有的凶頑之氣已蕩然無存。
郝鵬舉一見陳毅，便說：“萬分對不起人民，對不起陳軍長，今天能見軍長一面，雖死無憾，不知軍長能原諒我嗎？”
陳毅說：“請坐下慢慢談。”
郝此時手足無措，竟流出了眼淚。
陳毅問：“你到過徐州，見著陳誠嗎？”
郝：“到過徐州，見過陳誠，只談了兩小時。”
陳：“你見著蔣介石嗎？”
郝：“沒有。”
陳：“你與陳誠談什麼？”
郝：“談戰局，薛岳也在座。”
陳：“陳、薛（指陳誠、薛岳）對戰局的意見怎樣？”
郝：“陳誠說山東會戰是國軍成敗關鍵，要我率部參加。”
陳：“你們有信心嗎？”
郝：“我看他們信心是不夠的，因為他們採取穩打穩進的辦法，各路部隊均怕側翼暴露和後路被切斷，且半年來失敗太多，故均無信心，而且都知道即使進了臨沂，仍不能解決問題。”
陳：“難道要你出任魯南綏靖司令，你反有信心？”
郝嘆氣，說：“唉！陳誠對我說，四十二集團軍番號僅系一個號召，因為國軍戰區及集團軍番號已取消，要我以後只用魯南綏靖區分區司令的名義指揮，我便知道上當了，不過是要我這個部隊死在魯南。我要求後調整訓，他們不答應，我不便多提。”
陳：“陳、薛對你們部隊的補充如何？”
郝又長聲嘆氣，回答：“我29日當天（按：系1月29日，郝鵬舉叛變後的第3天），由徐州經海州返部後，一、部隊不准進駐海州城；二、立即奉命接防日塔埠，並擔任'進剿'任務；三、部隊未領到經費，僅由段霖茂（按：系蔣軍第五十七師師長，時率四旅駐海州地區）暫借一部分，不夠用，且取款手續太繁，領不到款改領軍米，又論包不論斤，實際每包130—140斤，但仍按200斤算，所以部隊吃不飽，抽煙、穿鞋更談不到。想到一年來在解放區衣食毫無顧慮，樣樣滿足，領款手續簡便，且待遇較新四軍、八路軍部隊為更好，比之國民黨待我真有天壤之別。所以部隊將士均不滿意我投蔣行為。到2月6日晚發生情況時（按：即人民解放軍討伐郝逆時），部隊便迅速放下武器，諸葛亮所說'攻心為上'的戰略，我這一回算是親身領受。”
陳：“那你為什麼要投蔣呢？”
郝：“由於我立場不穩，上了蔣介石政治誘惑的當。”
陳：“你說是被騙投蔣，為何又槍殺我派去的幾名聯絡人員，為什麼不完全送回？”
郝：“這完全是我受部下壞分子劫持，企圖以此向陳誠報功，這是我的罪過，我不能約束部下。當投蔣前後數日內，我受良心責備，十分痛苦，真如古人所說到了'魂不守舍'的地步。總之，一切由我負責，政治上已到了無法拯救的地步，軍長給我任何處分，我都接受。”
陳毅不緊不慢地說：“你講完了你的意見，我在這裡可又告訴你事實：第一、去年6月以前，我們是想以民主自願的原則說服你們接受八路軍、新四軍建軍經驗，把你們這一支舊式部隊改造成為一支真正的為人民服務的武裝，無奈百般說服勸導，你們都不能接受。到了去年6月以後，蔣介石大舉進攻解放區陰謀已露，自衛戰爭不可避免，我知道你們部隊改造無望。中共中央來電要我們對你們的部隊採取一貫的寬大政策，即不用武力強迫改造。我為了忠實執行中共中央對起義部隊'來則歡迎，去則歡送'的民主自願原則，故把你們部隊由解放區中心調到東海邊境，這你很明白是讓你們自己選擇自己的前途，假如要用武力解決你們或者要留你們，是毫不困難的，讓你們開到邊境，且開到邊境之後待遇不變，無非希望你們覺悟，向服務人民方面轉變。這個意思很清楚、很明白，而且非常大度、寬容、公正無私。到今天我看你們部隊任何人都不能否認這一點。”
郝頻頻點頭說：“無論是解放區黨政軍民，無論是中共中央和軍長個人，一貫對我們是愛護的，這是事實。”
陳：“那麼為什麼你投蔣後卻說中共監視你們很嚴格？又說我方無控制能力，故你們完全投蔣，這是什麼意思？”
郝：“那是中央社廣播的造謠。”
陳：“到了去年9月兩淮撤退前後，蔣、薛與你們勾結，我屢有所聞，且知道得很清楚。我又派人，又寫信，又發電報，屢次勸告你們不要喪失人格、背叛人民，我對於你們更是萬分寬容，不咎既往。到了今年1月中，你們擅自將部隊南調，開至海州城下，我知道你們與蔣薛的密謀又起，立即勸告你們應站在人民方面才有出路，投蔣不過替蔣介石增加一個獨裁的殉葬品，你們仍毫無覺悟。我知道己無希望，但仍然中言只要你們不公開投蔣，我們絕不以一兵一卒相加，不意你們最後竟自尋死路，公開背叛人民，公開投降人民公敵蔣介石，這於解放區無甚損失，故我們並不重視你投蔣的事。但是即使到這個時候，我仍在最後一分鐘下了一道警告給你，要你們部隊迅速遠離內戰戰場，不要向解放區進攻，但你們硬不聽話，敢於在2月初即參加前線進攻，我這時才派部隊進行迎擊，一晝夜即捉你過來。我在這裡明白告訴你，對於你們拖走部隊是料定了的；我可又告訴你，你們拖走部隊時，竟捕殺我派去的聯絡人員，則出乎我之意料，因為我不料人之無良知竟到了這種地步！”
郝狡賴：“對於臨走槍殺軍長派來之聯絡員一事，完全是禽獸行為，本人不知道，是部下乾的，我不能控制部下，罪該萬死。”
陳：“從你叛變到被俘，前後僅一個月，這證明了乾民主事業需要有為人民服務的自我犧牲精神，凡投機取巧必致身敗名裂，最後難逃人民的懲罰，你就是一個投機取巧的示範，這是第一；又證明了一支舊式軍閥部隊不經過徹底改造，絕不能擔負偉大的民主鬥爭任務，這是第二；又從事實上證明從美帝國主義到蔣介石到陳誠、薛岳等人慘敗之餘，轉而求之於你郝鵬舉去參加，你們之間的關係太醜惡了，因而力量是更朽敗了，故不堪一擊，又證明了中國人民的力量基於正義和自衛，故名正言順，力量偉大，一出手你們就紛紛落馬，這是第三。以上這些教訓，對於任何人都有用處，恐怕對美蔣更有用處。”
“目前你既然到了此地，一切應由人民處理。你做的事太壞，太對不起人民，太違反人情。再次背叛國家民族，罪惡實在太大，要看人民是否能寬恕你。我立刻送你到後方去，聽候發落好了。”
後來，郝鵬舉被押到解放區，經人民公審予以處決。
郝鵬舉被判處死刑，成為解放戰爭中第一個也是最後一個被俘後被槍斃的國民黨將領。
郝鵬舉伏法，陳毅提筆寫下了《示郝鵬舉》一詩：
教爾作人不作人，教爾不苟竟狗苟。
而今俯首爾就擒，仍自教爾分人狗。
2月10日，粟裕與陳毅、譚震林一起，率葉飛、陶勇、王必成、成鈞4個縱隊隱蔽北上。北線王建安、許世友、宋時輪3個縱隊也按照粟裕的計劃，秘密向指定地域集結。
留在臨沂的韋國清、何以祥兩個縱隊，打著全軍各縱隊的番號，在臨沂外圍節節阻擊敵人，頗有一番“決戰”的精彩表演。與敵人在臨沂整整相持了5晝夜後，主動撤離臨沂。
敵人佔領臨沂後，大肆鼓吹“勝利”，宣稱：“在臨沂外圍殲滅共軍16個旅”，“共軍傷亡慘重，不堪再戰”，“陳毅開始總退卻，企圖西渡黃河，與中原劉鄧會合”。
蔣介石更是得意洋洋，說：“在關內的5部共軍中，以陳毅一部最為頑強，訓練最精，詭計最多，肅清最為困難。現在陳毅已失其老巢，難以發揮作用了。”
但蔣介石高興得太不實際了，豈不知又有一場災難快要降臨到蔣軍的頭上。
敵人認為陳毅部已走投無路，陳誠立即電斥王耀武：“由於李仙洲遲疑不前，未能先期佔領新泰、蒙陰孔道，致使陳毅西逃。目前當務之急是加速南進，截住陳毅，不讓他走出沂蒙山區，更不能讓他越過津浦路。”
就在這天晚上，王耀武看出歐震輕取臨沂，必是陳毅主動放棄之故，而北線的李仙洲，兵力較弱，很可能是陳毅將要打擊的目標。於是，王耀武電令李仙洲全線後縮。
敵情發生變化，陳毅、粟裕馬上召集縱隊司令員研究對策。有的縱隊司令員建議，在李仙洲部沒有後退很遠之時，我軍立即將其咬住，即使打不掉他的全部，也可以把他的尾巴吃掉。
但粟裕認為：我軍主力尚未全部到達指定位置，倉促發起戰役，無取勝把握。原決心應堅持不變，督促各部隊加速隱蔽前進，盡快完成對敵人的合圍。
王耀武讓李仙洲部後縮，引起陳誠的極大不滿，就在蔣介石面前告了王耀武一狀。蔣介石給王耀武寫了一封親筆信，說：“務希遵照指示派部隊進駐新泰，萊蕪、新萊兩城各有1軍之兵力，敵人無力攻下，敵如來攻，正適合我們的希望。”蔣在信中還責令王耀武“勿失良機”！
接到蔣介石的信，王耀武十分懊惱。他不贊成陳誠的判斷，但又不能不執行蔣介石的命令。於是，17日，他轉令李仙洲重新南進。
敵情又發生變化，這說明敵人並未發現我軍之真正意圖，我們堅持原決心的意見是正確的。
19日，王耀武確信我軍主力要圍殲李仙洲集團，乃要求薛岳令南線主力加速北上萊蕪，以解李仙洲之圍。薛岳認為說陳毅圍殲李仙洲根據不足；李仙洲發誓說：“要不是如此，你把我的腦袋割了去。”
王耀武顧不得有違蔣介石和陳誠的命令，急令四十六軍從新泰撤回顏莊，一九三師撤回萊蕪，並令七十三軍之七十七師迅速從張店南下萊蕪。
當日，王建安和許世友見敵軍七十七師即將撤出我設伏地域，不得不於下午13時提前兩小時向敵人發起攻擊。
21日晨，七十七師被我軍全殲。我一、六、八、九、十各縱隊已全部展開，基本形成了對萊蕪之敵兩個軍的合圍和兵力上的絕對優勢。
王耀武部後撤不及，有兩個軍被我團團圍住。王耀武焦急不堪，進退兩難。固守待援還是冒險突圍？他舉棋不定。他越想越覺得固守萊蕪城極為不利。據過去的經驗，增援部隊總是被共軍阻擊，無法解圍。固守是難以死守的、被共軍包圍、到時部隊彈盡糧絕，也只有死路一條。
王耀武思前想後，只有突圍才有一線生的希望。萊蕪城離口鎮相距只有13公里，以現有城中兩個軍的強大兵力，又有空軍掩護，突圍出去是有可能的。於是，他一邊命令李仙洲“全軍經吐絲口向明水突圍”，一邊派人乘專機到南京向蔣介石告急。
接到王耀武的親筆信，蔣介石閱後嘆息道：“敵前撤退不利，既已下令北撤，應特別注意後尾及兩翼的安全。”蔣介石也給王耀武回了一封親筆信，信上寫著：“祈求上帝保佑我北撤部隊的安全和勝利。”
然而，上帝誰也保佑不了，更保佑不了李仙洲的噩運不到來。當李仙洲派出的突圍先頭部隊剛走出萊蕪城門時，就遭到我軍迎頭堵擊，一場突圍與反突圍的血戰在小清村展開。
2月21日晚，李仙洲在萊蕪城召開緊急會議，研究軍隊如何突出共軍包圍的問題。在城裡的高級將領都在此。有七十三軍軍長韓浚、四十六軍軍長韓練成、前方指揮所少將高級參謀王為霖，第二綏區司令部第二處少將處長陶富業等。
會上發生激烈爭執，李仙洲雖然突圍的命令已發，但仍然認為突圍怕是兇多吉少。他主張一邊突圍，一邊等待臨沂方面前來增援。而其餘的人都主張撤退，特別是那個高參王為霖，竭力主張立刻撤退，他說這是執行命令的問題，如果不撤，勝利了沒有功，失敗了責任擔不起，而且糧彈補充根本無法解決。韓浚提出在22日大部隊開始撤退，韓練成則主張23日大部隊開始撤退，他說必須有一天的準備時間。大家同意了韓練成的意見。最後研究確定了撤退的部署。
23日清晨6點，天還不亮，李仙洲正要下令開始行動，但發現四十六軍軍長韓練成沒在。剛才他和韓練成一塊走到東門外，韓練成說要到城東找一個團長。李仙洲說各團都已集合，不必去找了。韓說他已令那個團長在那裡等他。李說叫傳令兵去就行了。韓說傳令兵找不到，必須親自去一趟，他隨即轉身進城。李仙洲納悶，不是說到城東高地去嗎？怎麼又進了城？這是怎麼回事？李仙洲到了集合場，見到四十六軍參謀長楊贊謨，李仙洲問部隊到齊了沒有？楊說都到齊了。李又問韓練成要我的那個團長到了沒有？楊說已到了。李仙洲更加疑慮，他想不等了，趕緊行動，但又想總不能丟下一個軍長就走。他問各師師長，都說不知道，又派人四處尋找，始終不見韓練成的影子。
七十三軍軍長韓浚急了，跑來詢問怎麼還不行動？李仙洲才發出全體突圍的信號。這時己是8點鐘了，耽誤了整整兩小時。原來，此時，韓練成已在我工作人員李一明、劉質彬引導下，到達安全場所。按照陳毅的指示精神，讓李一明、劉質彬做韓練成的工作，最後韓練成接受了黨的意見。他的這一行動，遲滯了敵人突圍的時間，增加了敵人內部的混亂。戰後，陳毅、粟裕等首長接見了他，給予了嘉勉。解放後，他先後擔任中國人民解放軍西北軍區副參謀長、軍事科學院戰史研究部部長、蘭州軍區第一副司令員等職。 1950年參加中國共產黨，1955年被授予中將軍銜。他還擔任國防委員會委員、第五屆全國政協常委。 1984年2月27日因病逝世。在他的逝世訃告中寫著：“他積極配合解放戰爭，特別是在萊蕪戰役中，為中國人民解放事業作出了重要貢獻。”
再回過頭來說李仙洲率部突圍的情況。萊蕪城的敵軍開始突圍後，其隊形混亂，爭前恐後逃命。我軍邊打邊“放”，敵人且戰且走。至中午12時，敵人已全部進入東西只有六七里，南北不過10來里的狹長地區內，完全鑽進粟裕預先設置好的大口袋裡。此時，在南京的蔣介石，坐臥不寧。他不斷向王耀武詢問萊蕪戰況，命令空軍副總司令王叔銘：“盡全力掩護李仙洲部北撤。”王極銘立即派出幾十架戰鬥機和轟炸機到萊蕪城上空助戰，他親自駕駛飛機到戰區空域直接指揮。
下午1時，我對被圍之敵發起總攻。
包圍圈越來越小，五六萬敵軍擁擠在一起，指揮失靈，建制混亂，潰不成軍。
李仙洲一面強令部屬拼死抵抗，一面向空中盤旋的王叔銘求救。王叔銘是李仙洲黃埔一期的同學，又是山東同鄉，平時交往甚密，無話不談，他要求王叔銘為自己打開一條血路，扼制兩側高地上共軍的強大攻勢。
王叔銘說：“共軍甚多，突圍難以成功，不如退回萊蕪城，固守待援，我保證糧彈補給。”
“叔銘兄，是出萊蕪我有數計，事到如今我一籌莫展。想回萊蕪城是比登天還難，務請……”一言未盡，突然中彈倒地，醛來已成俘虜。
戰役結束當天，蔣介石飛到濟南，怒氣沖沖地大罵王耀武失職，李仙洲無能。
王耀武“有理”也不知向誰說，只好悲嘆：“萊蕪戰役，損失慘重，百年教訓，刻骨銘心。”
戰後，陳毅對前線記者暢談萊蕪大捷：“這說明了我軍副司令員粟裕將軍的戰役指揮一貫保持常勝紀錄，愈出愈奇，愈打愈妙。”而對自己“舍南取北”的關鍵性建議和在組織協同方面的重大貢獻，卻隻字未提。
1947年3月8日，粟裕副司令員在華東野戰軍高級幹部會議上就萊蕪戰役作了總結報告，他說：“在一次戰役中，僅以63個小時就俘虜了4萬多敵人，加上被我斃傷的共殲敵6萬人左右，我軍僅傷亡6000多人，這在中國戰史上是空前的。”