要準備大決戰，擴大和整訓部隊、提高部隊戰鬥力，特別是大兵團作戰的協調能力和大中城市的攻堅能力，當然是東北局工作的重點。
首先是要對部隊補充兵源，擴大部隊。由於這時根據地的建設已經取得很大成績，所以我軍擴軍的主要方式是動員翻身農民參加地方部隊，再由地方部隊到主力部隊，而不再是剛到東北時那樣以改造俘虜兵為主。 1946年8月29日，東北局發出了《關於補充主力加緊作戰準備的指示》，指示說：
沒有強大的主力，並使它得到源源不斷的兵源補充，就不能有效地、連續地打擊和殲滅敵人，因此也就不能鞏固地方部隊，確保根據地及群眾鬥爭的果實。因此地方黨、地方兵團的同志應當自覺當所謂“兵販子”，認清源源不斷地補充主力，正是地方黨與地方兵團的責任。
各省委應負責在每個工作區從自己的地方兵團、縣大隊和獨立營中，抽調出2000到2500人的建制部隊補充各該工作區的主力部隊，以保證每一主力師、旅除充實現有三個團外，另增編一個補充團，充實該師、旅到1萬人左右。
當東北局的指示下達並逐步貫徹之後，各地開始向主力部隊補充新戰士。但由於當時作戰任務很重，新戰士一參軍就可能上戰場，不可能有訓練的時間。而地方部隊和縣大隊中有一些成員是不脫產不離家的，並未經過嚴格的軍事訓練，不能適應陣地戰的要求。於是，東北局在此基礎上又做出了進一步的決定，在各地組建二線兵團。其辦法是以部分主力部隊的干部和老兵為骨幹，將自願參軍的農民和工人直接組建為獨立團，進行訓練。訓練要求必須按民主聯軍總部所頒發的《獨立團軍事教育計劃》進行，待達到要求之後，再補充進主力部隊。這一計劃從1947年8月開始進行，半年的時間，就組建並訓練了88個獨立團，共22萬人，達到了很好的效果。從開始組建獨立團到遼沈戰役結束，東北共組建了189個獨立團，總人數達42萬人，保證了東北解放戰爭的勝利。
在積極從翻身農民中發展兵源的同時，東北民主聯軍並沒有放棄對大量俘虜兵的改造，特別是在出了一八四師叛逃的事件之後。
前面已經談到，1946年5月在南滿的鞍海戰役中，當我軍進攻海城時，國民黨的滇軍第六十軍的一八四師在潘朔端師長的率領下宣布起義。起義之後，被編為民主同盟軍，開到通化地區進行學習整訓。由於對這支部隊的教育改造工作做得不夠，對其中一部分思想頑固的反動分子有些遷就，特別是未能及時派去政治工作幹部做政治工作，讓一部分思想頑固的反動分子在原副師長楊朝倫的串通下，抱成了一團。當1946年10月國民黨軍隊向我通化地區發起進攻時，楊朝倫等人認為我軍不可能打勝，就違反了潘朔端的命令，拉了1000餘人叛逃了。
一八四師叛逃事件給東北局和各部隊敲響了一次警鐘，決定要認真總結這次深刻的教訓，重視並改進對俘虜和起義人員的改造教育工作。
當“三下江南”結束之後，就把大批被俘的國民黨軍官集中起來辦了“哈爾濱解放軍官教導團”進行集中教育改造。 1948年1月，東北野戰軍政治部還在譚政主任的主持下專門召開了“國軍工作座談會”，重溫中央對俘虜工作的指示，研究俘虜工作中所存在的問題，討論了若干有關的政策和方法。自此以後，東北各部隊再也未出現過一八四師叛變這樣的事件，不少解放戰士參加我軍並成為很好的革命戰士。如1948年9月攻打錦州時，在全班打得只剩一個人的情況下，高舉兩顆手榴彈衝入敵陣與敵人同歸於盡的戰鬥英雄姚尚云，就是1947年被我九縱七十四團俘虜過來的解放戰士。我軍專門改造國民黨軍官的哈爾濱解放軍官教導團先後有15533名被俘國民黨軍官前來學習，其中僅中將就有29人，少將210人，上校397人，中校、少校1484人。經過教育改造，最後只有76人送入撫順戰犯管理所繼續改造，其餘的陸續走出了教導團，有的回家，有的參加工作，也有的參加了人民軍隊。還有的出去之後就到國民黨軍隊中做策反工作，讓他們放下武器，起義投誠。所有這些，都充分顯示了我軍改造俘虜所取得的顯著成效。
在1947年底，我軍在東北的主力部隊人數已經與國民黨軍持平。到1948年4月，主力部隊加上二線兵團總計已經達到98.8萬人，成為一支名副其實的百萬大軍，形成了對國民黨軍的絕對優勢，為大決戰做好了最重要的準備。
為了適應形勢不斷發展的需要，使部隊能進行更大規模的作戰，從1947年夏天以來，民主聯軍總部對整個東北的部隊編制陸續進行了調整，擴充補足老的部隊，組建新的主力縱隊。 1948年1月1日，根據中央軍委命令，東北民主聯軍正式改稱為東北人民解放軍。東北人民解放軍包括東北軍區和東北野戰軍兩個系列，但是只有一個統一的總部，現將東北人民解放軍的領導幹部與截至1948年4月的編制序列簡介如下（按：由於當時部隊在擴編之中，幹部調動比較頻繁，所以下列幹部名單中有個別重複）：
東北軍區司令員兼政治委員林彪。
第一副司令員高崗。
第一副政治委員羅榮桓。
副司令員呂正操、周保中、蕭勁光。
副政治委員陳雲、李富春。
參謀長劉亞樓，副參謀長伍修權、曹祥仁。
政治部主任譚政，副主任周桓。
後勤部部長李富春（兼）。
東北軍區之下分為十二個軍區：
安東軍區司令員程世才，政委江華，副司令員沙克。
遼寧軍區司令員張學思，政委白堅，副司令員解方、趙杰，副政委劉惠農。
遼南軍區司令員陳奇涵，政委張秀山，副司令員邊章伍、副政委林一山。
吉林軍區司令員周保中，政委陳正人，副政委唐天際。
遼吉軍區司令員聶鶴亭，政委陶鑄，副司令員高鵬、蔡斯烈，副政委彭嘉慶。
龍江軍區司令員葉長庚，政委王鶴壽，副司令員關慶寰。
嫩江軍區司令員朱滌新，政委劉錫五，副司令員趙承金。
松江軍區司令員陳光，政委張策，副司令員李壽軒。
合江軍區政委洛甫（張聞天），副司令員李荊璞、楊梅生，副政委張啟龍。
牡丹江軍區（1948年7月撤銷）政委何偉，副司令員田松。
內蒙古軍區司令員兼政委雲澤（烏蘭夫）。
冀察熱遼軍區司令員程子華，政委黃克誠，副司令員李運昌、副政委黃火青。
在冀察熱遼軍區之下，又有三個軍區：
熱河、冀熱察、冀東。
東北野戰軍與東北軍區是一個領導機關，但由於軍區和野戰軍在有些工作上仍有分工，所以領導幹部的名單上稍有不同。在野戰軍中林彪只擔任司令員，政委由羅榮桓擔任（這就是人們一般又把東北野戰軍或日後的第四野戰軍稱為“林羅大軍”的由來），參謀長劉亞樓，政治部主任譚政，不設副司令員、副政委、副參謀長、政治部副主任。不同的是野戰軍的後勤部長兼政委是鍾赤兵。到大決戰開始之前的1948年8月14日，根據中央軍委的指示，為了集中力量打大仗，東北人民解放軍進行了一次上層的整編，將野戰軍總部和軍區總部的司令部、政治部、後勤部這三大部分開，成了兩個系列。從此，林彪、羅榮桓和劉亞樓就全部心思在前方打仗，後方軍區機關的工作都交給高崗、陳雲、李富春等同志負責。
東北野戰軍所屬野戰部隊的編制序列有：
前方第一指揮所（後改稱第一兵團，東北野戰軍的前方指揮所和兵團與後來四野的兵團不同，其下並不直屬固定的幾個縱隊，而是根據戰局的需要，由總部決定在一定時期或某一戰役中，指揮哪些部隊）司令員蕭勁光（兼），政委蕭華，副司令員陳伯鈞，副政委唐天際，參謀長解方。
前方第二指揮所（後改稱第二兵團）司令員程子華（兼），政委黃克誠（兼），副司令員彭明治，參謀長黃志勇。
東北野戰軍這時共有12個主力縱隊和一些其他部隊：
一縱司令員李天佑，政委梁必業，副司令員曹裡懷。
一縱下轄三個師：一師師長江擁輝，政委吳岱；二師師長賀東生，政委劉興元；三師師長彭景文，政委劉賢權。
二縱司令員劉震，政委吳法憲，副司令員吳信泉。
二縱下轄三個師：四師師長陳金玉，政委李雪三；五師師長吳國章，政委賀大增；六師師長張天雲，政委石瑛。
三縱司令員韓先楚，政委羅舜初，副政委劉西元。
三縱下轄三個師：七師師長鄧岳，政委李伯秋；八師師長左葉，政委劉光濤；九師師長徐國夫，政委譚開雲。
四縱司令員吳克華，政委莫文驊，副司令員胡奇才，副政委歐陽文。
四縱下轄三個師：十師師長蔡正國，政委葛燕章；十一師師長周光，政委李丙令；十二師師長江燮元，政委張秀山。
五縱司令員萬毅，政委劉興元，副司令員吳瑞林，副政委唐凱。
五縱下轄三個師：十三師師長徐國夫，政委丁國鈺；十四師師長彭龍飛，政委譚文邦；十五師師長胡繼成，政委何善遠。
六縱司令員黃永勝，政委賴傳珠，副司令員李作鵬、楊國夫。
六縱下轄三個師：十六師師長王東保，政委張池明；十七師師長龍書金，政委徐斌洲；十八師師長王兆湘，政委陳德。
七縱司令員鄧華，政委吳富善，副司令員曾克林。
七縱下轄三個師：十九師師長徐紹華，政委鄧東哲；二十師師長劉述剛，政委劉永源；二十一師師長李化民，政委朱民親。
八縱司令員段蘇權，政委邱會作，副司令員張天雲，副政委王逸群。
八縱下轄三個師：二十二師師長吳烈，政委陳仁麒；二十三師師長張德發，政委謝家祥；二十四師師長丁盛，政委韋祖珍。
九縱司令員詹才芳，政委李中權。
九縱下轄三個師：二十五師師長曾雍雅，政委徐光華；二十六師師長蕭全夫，政委李振聲；二十七師師長任昌輝，政委王文。
十縱司令員梁興初，政委周赤萍。
十縱下轄三個師：二十八師師長賀慶積，政委晏福生；二十九師師長劉轉連，政委卓雄；三十師師長方強，政委孔石泉。
十一縱司令員賀晉年，政委陳仁麒，副司令員周仁傑。
十一縱下轄三個師：三十一師師長歐致富，政委謝鏜忠；三十二師師長李光輝，政委劉祿長；三十三師師長周仁傑，政委鍾文法。
十二縱司令員鍾偉，政委袁昇平，副司令員熊伯濤。
十二縱下轄三個師：三十四師師長溫玉成，政委譚友林；三十五師師長王奎先，政委粟在山；三十六師師長沈啟賢，政委王建中。
砲兵司令員朱瑞，政委邱創成，副司令員賈陶、匡裕民。
護路軍（後改名為鐵道縱隊）司令員蘇進，副司令員王光文。
騎兵師（以後分散到各縱隊）師長王明貴，政委朱繼先。
在總部之下，還有11個獨立師。獨立師的數目是不固定的，因為在主力縱隊減員時，獨立師就可能作為主力縱隊的補充，然後又從二線兵團中組建新的獨立師。
在百萬東野大軍之內，還有一支在各種軍史著作中極少載入編制序列卻又極為重要的隊伍，就是被稱為東野總部二局的技術偵察隊伍，領導人是早在江西中央蘇區時期就曾經擔任中央紅軍破譯科長（正式名稱是中央軍委第二局第四科）、寫有《密碼學總論》一書的曹祥仁，他此時擔任東野的副參謀長兼二局局長。曹祥仁在1947年5月以中央軍委總參謀部二局局長的身份來到東北，經過一年的努力，二局的總人數超過了400人，已經擁有120多名偵收員、60多名破譯員，配備著40多部電台，他們幾乎可以破譯敵軍的全部密碼，幾乎可以截獲敵軍的全部電報，幾乎可以聽懂報話員所使用的全國各種的方言。在大戰期間，每天可以給總部首長提供有價值的情報超過100份。林彪曾經評價這支隊伍“其作用不亞於幾個縱隊”。
當東北大地上一支又一支隊伍組建並擴大之後，當仗越打越大的時候，抓緊訓練與教育就是各級幹部最重要的職責。東北野戰軍總部（當時簡稱為“東總”）為了準備全面大反攻，在這方面做了很多有益的工作。
在東總所抓的訓練中，除了經常進行對各個部隊的督促與檢查之外，著重抓的是對各級幹部的訓練與教育。當東北局在東北剛剛站穩腳跟的時候，在1946年2月，以從延安來的抗日軍政大學的人員為基礎，東北軍政大學就正式成立了，並且一直是由林彪兼任校長、彭真兼任政委，具體的校務工作長期由擔任副校長的何長工和擔任副政委的吳溉之負責。學校每逢戰鬥間隙，就會將各級幹部進行輪訓，林彪經常親自到學校上課。林彪講得最多的，是“一點兩面”和“四快一慢”。關於“一點兩面”，前面已經有過介紹。而“四快一慢”則是林彪在1947年夏天打四平之後總結出來的。什麼叫“四快一慢”呢？林彪在1948年2月17日為軍政大學中級以上乾部集訓隊上課時是這樣講的：
“四快一慢”不是我們發明的，世界上有戰爭以來就有了這條道理。
第一，向敵前進要快。譬如打某個地方，怕敵人跑了，前進時要快。敵人是按普通時間計算。可是我們不按他的算法，白天也走，晚上也走，一下子撲到他前面，使他來不及應付，他就是撤也得要個時間，這就是快的原則。
第二，發現敵人後進行準備工作要快。看地形、選突破口、構築工事、捆炸藥、動員、調動兵力、佈置火力等，忙得滿頭大汗才行，這要快。
第三，突破後擴大戰果要快。
第四，敵人整個潰退了，離開了陣地，我們追擊時要快。
“一慢”是指什麼時候慢、什麼事情上慢呢？就是總攻發動時機這一步要慢。在這一問題上要沉得住氣，上級催罵，派通信員左催右催，這就要沉著，反正我要準備好才打。
如果不實現“四快一慢”，就不能實現“一點兩面”戰術。 “四快一慢”這個方法是實施“一點兩面”的關鍵，而“一點兩面”是我們戰術中最主要的東西，“四快一慢”是達到此戰術目的的方法。我們作戰的目的是為了殲滅敵人，其方法是“一點兩面”戰術；但是要實現“一點兩面”作戰的戰術，就要實行“四快一慢”，這就是它們的關係。
林彪指揮作戰多年，除了戰略問題上的審時度勢由他自己掌握之外，在戰術問題上對部隊的要求，歸納起來就是這個“四快一慢”和“一點兩面”。這是林彪多年來在戰術上克敵制勝的法寶。
在大決戰開始之前，東北野戰軍還做了兩項重要的準備工作。
一項是指揮機關的事，就是1948年3月25日在東野總部所在地雙城召開了東北解放戰爭中唯一的一次野戰軍參謀會議。林彪在會上做了《如何使司令部成為能幹的指揮機關》的報告。會議開了22天之久，中心就是研究如何讓各級司令部適應“大兵團、正規化、攻堅戰”的要求，讓“大兵團、正規化、攻堅戰”成為今後建軍作戰的總方針。這次會議為即將到來的大決戰做了很好的準備。
另一項是對整個部隊的，就是在結束了1947—1948年的冬季攻勢之後，圍繞著對“大兵團、正規化、攻堅戰”這個總的要求，在東北全軍展開了一次大練兵，其中既有以清理思想、整頓班子、提高戰鬥力為目的的政治整軍，也有以攻堅縱深作戰為主要內容的軍事訓練。當時我軍攻堅的主要手段是爆破，所以各部隊都特別加強了這方面的訓練，培養出一批爆破能手。此外，對破城與爬城牆、對付坦克與裝甲車、構築與破毀各種工事，都做了專門的訓練。這次訓練，大大提高了我軍打攻堅戰的技能，為即將到來的大決戰做了準備。