按照葉劍英的說法，大決戰的正式開始時間是1948年9月12日，歷時四個月又十九天。但是，大決戰的序幕在此之前早已拉開。
1948年9月8日至13日，在中國革命的總指揮部所在地西柏坡村，中共中央召開了自撤出延安之後的第一次政治局會議。參加會議的有：
政治局委員（7人）毛澤東、朱德、劉少奇、周恩來、任弼時、彭真、董必武；中央委員和候補中央委員（14人）鄧小平、陳毅、賀龍、葉劍英、徐向前、聶榮臻、薄一波、曾山、鄧穎超、滕代遠、饒漱石、廖承志、陳伯達、劉瀾濤；此外還有中央其他工作人員李維漢、楊尚昆等10人。除了東北戰場上幾位負責人如林彪、陳雲、羅榮桓、高崗、張聞天等和在戰場上無法抽身的彭德懷、劉伯承、粟裕等人之外，中共的重要幹部幾乎全部到會。
毛澤東在會上做了重要報告，他說：“我們的戰略方針是打倒國民黨，戰略任務是軍隊向前進，生產長一寸，加強紀律性，由游擊戰爭過渡到正規戰爭，建軍五百萬，殲敵正規軍五百個旅，五年左右根本打倒國民黨。”
作為中央軍委的總參謀長，周恩來在會上對具體的軍事計劃做了發言。他說，中央的計劃就是要“指導戰爭繼續引向國民黨統治區”，“應準備若干次帶決定性的大會戰”。劉少奇也說，打倒國民黨，統一全中國，以前是宣傳口號，現在是擺在議事日程上來計劃了。現在就是要準備大的會戰，一次消滅他兩三個兵團。
九月會議，為最後打倒蔣介石、成立新中國，從思想上、政治上、軍事上、組織上都做了充分準備，是與蔣家王朝進行大決戰的總動員。
在毛澤東和中央軍委其他領導人心中，這場大決戰究竟怎麼打？根據九月會議上的討論和毛澤東為中共中央起草的《中共中央關於九月會議的通知》，大戰將在長江以北，特別是在東北和華北進行，中原的徐州和東北的北寧線，很可能是會戰的中心。為什麼要作出這樣的決策，而不是讓大軍打過長江去擴大解放區？關鍵的一個原因是我軍必須以大量消滅敵人的有生力量為目標，而不在一城一地的得失。當時，國民黨主力的分佈已如前述，幾乎全在長江以北，東北的衛立煌集團、華北的傅作義集團、華中的劉峙集團都是以具有戰略地位的幾個大城市為依託在和我軍對峙，正如葉劍英後來在回顧時所分析的：
為著繼續大量殲滅敵人，從根本上打倒國民黨反動政府，人民解放軍就必須攻擊敵人堅固設防的大城市，必須同敵人的強大機動兵團作戰。因此，敢不敢打我軍從來沒有打過的大仗，敢不敢攻克敵人的大城市，敢不敢殲滅敵人的強大集團，敢不敢奪取更大的勝利，已經成為我軍當時戰略決策上的重大問題。就在這時候，國民黨一九四八年八月南京軍事會議曾經議論過撤退東北，確保華中，堅持瀋陽到十月底，以觀時局發展，原則上不放棄瀋陽，同時亦做撤退準備的作戰指導計劃。
在這種情況下，究竟是讓敵人實現他們把現有兵力撤至關內或江南的計劃，使我們失去時機，從而增加我軍爾後作戰的麻煩呢？還是在敵人還沒有來得及決策逃跑之前，我們就當機立斷，抓住大好時機，組織戰略決戰，各個消滅敵人的強大戰略集團呢？機不可失，時不再來，毛澤東同志根據對戰爭形勢的科學分析，毅然決然地抓住這個戰略決戰時機，先後組織了遼沈、淮海、平津三大戰役。
就在中共中央政治局會議前夕，1948年8月上旬，國民黨政府的高級軍事會議也在南京召開。自蔣介石以下，何應欽、顧祝同、白崇禧、湯恩伯、杜聿明、范漢傑、宋希濂、黃維、孫立人、黃百韜、周至柔、桂永清、王叔銘等120人到會。根據會議的參加者宋希濂的回憶，“蔣介石在會議開幕時的發言，充滿了沮喪的神情，對前途完全喪失了信心”。不過蔣介石在指責他的下屬時坦率地承認，“許多高級軍官大發接收財，奢侈荒淫，沉溺於酒色之中，弄得將驕兵逸，紀律敗壞，軍無鬥志”。他也坦率地告誡他的下屬們：“現在'共匪'勢力日益強大，'匪勢'日益猖獗，大家如果再不覺悟，再不努力，到明年這個時候，能不能再在這裡開會都成問題。萬一共黨控制了中國，則吾輩將死無葬身之地。”所以他要求大家“共濟時艱”，“挽救危機”。到會的高級將領們當然也談了不少，宋希濂說：“有一個總的印象，就是幾乎所有發言的人，都是申訴本單位處境的困難，向國防部要求增加部隊，要求新成立部隊番號，要武器，要新兵，要軍糧，要器材，要車輛，要彈藥……總之一句話，全是困難、危險、艱苦。”最後形成的戰略方案是：停止戰略進攻，將兵力歸併為幾個強大的機動兵團，在長江以北布防，防止共軍渡江，相機打擊共軍。
這次國民黨當局召開的最高軍事會議，沒有取得任何實質性的結果，只是加劇了與會者對戰局信心的動搖與沮喪。例如蔣介石的“北平剿匪總司令部”司令傅作義，就是在這次會後產生了與蔣介石分手的念頭。
大決戰正式開打之前，我人民解放軍奏響了一支高亢的序曲，這就是解放濟南。
1948年夏天，我華東野戰軍陳士榘、唐亮兵團先打了宛西戰役。緊接著，華東野戰軍粟裕兵團，加上中原野戰軍陳賡兵團，又打了宛東戰役。然後，由粟裕統一指揮華東野戰軍和中原野戰軍的中原地區部隊攻打軍事重鎮開封。蔣介石親自坐著飛機在空中督戰，狂炸市區，並命令邱清泉兵團、孫元良兵團、胡璉兵團、劉汝明兵團四個兵團增援開封。
6月20日，我軍在外線阻擊援軍的同時，已將開封城除了城中心的製高點古龍亭之外的全部市區攻下。這時粟裕除留下一個師攻打古龍亭外，下令撤出攻城的主力華野三縱、八縱，加上十縱和兩廣縱隊（兩廣縱隊原本是我黨抗日戰爭時期在廣東省的抗日武裝，即著名的東江縱隊。抗戰勝利後，根據國共兩黨在和談期間達成的停戰協議，全部北撤。1946年7月5日，東江縱隊主力2583人走海路北撤煙台，進入我山東解放區，編入當時的新四軍和山東軍區，仍稱為東江縱隊。在戰鬥中隊伍不斷擴大，1947年8月編入山東野戰軍，改稱為兩廣縱隊。司令員曾生，政委雷經天）組成阻援兵團，由華野一縱、四縱、六縱，中野十一縱組成突擊兵團，圍殲蔣介石新組建的，由豫東馳援開封的區壽年兵團。這時，國民黨軍的注意力都集中在開封的攻堅戰上。 6月22日，開封古龍亭被攻下，開封全城解放。可是我軍卻很快又撤出開封。而且，華野的三兵團（即陳士榘、唐亮兵團）還根據粟裕的命令，有意放開原來一直被我軍阻擊於蘭封一帶的敵邱清泉兵團，讓其進入開封。與此同時，我軍的突擊兵團卻在華野一縱司令員葉飛的統一指揮下，猛然向睢縣地區的區壽年兵團發起強攻。這一撤一攻，完全出乎蔣介石的意料。他立即命令20萬大軍前往援救。而我軍早已準備了將近30萬人的兵力，雙方在中原大地展開大戰，這一場大戰就是有名的豫東戰役，也是解放戰爭開始以來最大的一個戰役。如果從6月17日攻打開封算起，豫東戰役一共打了20個晝夜，我軍全殲了區壽年兵團，區壽年被俘（這也是我軍在解放戰爭中生俘的第一個國民黨軍的兵團司令），黃百韜兵團和邱清泉兵團被重創，蔣軍的五大主力之一的第五軍被我擊潰，黃百韜的兵團部差點被我軍端掉，我軍共殲滅敵人9.4萬人。
豫東戰役結束之後，為了切斷徐州和山東的聯繫，為了讓整個山東解放區連成一片，為了進一步取得打大仗、攻打大城市的經驗，更重要的是，為了在解決濟南之後，我軍沒有後顧之憂，能騰出手來將力量投入淮海方向的大戰中去。我軍決定攻打濟南。
山東省會濟南是聯結華東、中原、華北三大戰場的戰略樞紐，自從日軍佔領時期起，就不斷修築了大量而堅固的工事，國民黨軍在其基礎上又加以擴大和加固，既有古老的城牆、城壕，又有現代化的電網、地雷，加上各種類型的碉堡，防守體系十分堅固。
濟南國民黨守軍的主將是徐州綏靖公署第二綏靖區司令官王耀武。
王耀武雖然只是黃埔三期畢業生，可他卻在過去與工農紅軍的戰鬥和對日作戰中立過大功，是所有黃埔學生中第一個出任方面軍司令官和省主席的人。不過，這時候的山東戰局已無法讓王耀武樂觀，因為王耀武所轄的軍隊已經在萊蕪戰役、孟良崮戰役、魯西南戰役等戰役中多次被我軍擊敗，他早已深知陳毅、粟裕的厲害。所以，雖然濟南有堅固的縱深達十幾公里的防禦體系，雖然他在濟南已經苦心經營多年，但對濟南的防守仍然沒有多少信心。自豫東戰役之後，他已明顯地察覺到華東野戰軍在向魯西結集，粟裕的下一個目標十有八九就是他所防守的濟南。他如芒在背，急飛南京，向蔣介石匯報軍情，請求援軍。
有多年作戰經驗的蔣介石對於濟南這個戰略要地的重要性當然是十分明白的，而且他也已經預感到，雙方都在徐州地區集中了大量兵力，這個自古就是兵家必爭之地的徐州地區不久就會有一場大戰。如果濟南能夠掌握在自己手中，不僅可以將粟裕的幾十萬兵力拖在山東，又能使未來的大戰開戰以後讓粟裕有後顧之憂，所以蔣介石決定給王耀武增加兵力。為了搶時間，蔣介石命令空軍司令王叔銘安排大批空運力量，很快從青島、徐州向濟南運送了一個整編師和兩個旅的兵力，使王耀武手中的兵力達到了三個整師又五個旅，共11萬人。同時蔣介石命令徐州“剿總”副司令杜聿明指揮黃百韜、李彌、邱清泉三個兵團共17萬人組成所謂“進剿兵團”，一旦濟南打響，就分路北援濟南。此外，蔣介石還命令他的空軍部隊以濟南、青島為基地，以北平、徐州為輔基地，集中戰鬥機162架、重型轟炸機42架，作為空中打擊與支援力量。於是，王耀武增強了信心，就把全力投入到濟南的防守，等待著華東野戰軍對濟南的攻城。
勢態很明顯，雙方都看準了這一著棋，都把濟南這一仗看作了未來在徐州地區大戰的一場必不可少的前奏。
濟南的攻防之戰將是一場惡仗。
在西柏坡，毛澤東和中央軍委的負責人一直注視著粟裕當時設在濟寧的指揮部，因為他們也一致認為，必須解放濟南，但“這是一次嚴重作戰”。因為，打濟南的主要麻煩不在於濟南的11萬守軍，而在於我軍只要在濟南一打響，蔣介石在徐州地區的大量援軍必然北上，如何才能成功地在打援中大量殲滅敵人的有生力量，不使我軍在濟南城下的攻堅戰形成被動局面，是應當著重考慮的大問題。為此，中央軍委和華東野戰軍負責人之間的電報不斷，反复研究，最後才定下了作戰方案。這一仗，總的指揮由粟裕負責，而攻城指揮，由許世友負責。攻城兵力，以山東兵團為主，共為50個團14萬人；打援兵力，安排90多個團18萬人。
打援的主要地區，放在兗州和鉅野（今鉅野）之間，夾運河而陣，以便於屆時能主動地在河東或河西殲滅敵人。攻城分為兩個階段：第一階段首先攻占城西的飛機場，截斷敵人空中援助支持的通道；第二階段再行攻城。整個戰役爭取一個月完成，但要做好打三個月的準備。此外，中央軍委還命令中原野戰軍做好準備，如果蔣介石要從鄭州、信陽調動張軫兵團、孫元良兵團向山東支援的話，就加以阻擊，配合濟南方面的華東野戰軍。就在中共中央政治局西柏坡九月會議期間，中央軍委與華野前線的電報仍然不斷，整個戰役的具體計劃，則是在緊張籌備九月會議的進程中完成的。 9月2日，毛澤東在華東野戰軍最後完成的作戰方案上做了“完全同意”的批复。當天，華東野戰軍就下達了開始行動的作戰命令。
濟南戰役的攻城總指揮是許世友。
許世友擔任攻打濟南的攻城兵團司令員，粟裕給了他六個半縱隊，還有特種兵縱隊的大部和一些地方部隊，共有14萬人。許世友把這14萬人分成了東西兩個集團：東面攻城集團軍由九縱司令員聶鳳智、政委劉浩天指揮，西面攻城集團軍由十縱司令員宋時輪、政委劉培善指揮。
9月7日，許世友下達了對濟南發起攻擊的命令。這一天，正是中共中央在西柏坡召開政治局會議正式開會的前一天。當政治局會議正式開幕的時候，我十幾萬大軍正在向濟南城下開進。
9月15日夜，我東、西兩面的攻城集團軍已分別從濟寧、汶上和泰安、萊蕪地區逼近濟南城郊。 16日夜，突然向守軍發起攻擊並迅速將外圍突破。經過兩天一層一層地摧毀敵人的工事，西集團軍在18日就已逼近飛機場，炮火已使得敵人的飛機不能自由起降。蔣介石運送部隊給濟南的空中支援只能停止。東集團軍則已佔領茂嶺山、硯池山、迴龍山等要點，直撲外城。正當王耀武全力保衛機場和城區時，一件讓王耀武萬萬想不到的事情發生了：19日，奉命守衛西城區的第九十六軍軍長吳化文率所部三個旅兩萬餘人宣布起義。
吳化文起義是解放戰爭進入決戰時期的第一次國民黨軍起義，是整個解放戰爭中第一個在大型戰役戰場上起義的國民黨軍軍長（1945年10月30日，國民黨第十一戰區副司令長官高樹勳邯鄲起義是在內戰前夕起義的，雙方未發生戰事），此事在當時曾引起了很大的震動。
吳化文起義在當時是一件大事，因為它不僅對解放濟南有利，而且可以動搖和瓦解蔣介石集團的其他將領。吳化文在歷史上對我黨、對人民是犯有重大罪過的，但是只要他能幡然悔過，棄暗投明，我黨仍然是歡迎的。這對於加速蔣介石集團的分化，具有十分重要的作用。朱德曾經對吳化文起義說過“對我打下濟南起了相當作用，今後作戰，就需要這樣的起義”。吳化文起義還有一個作用是表明了我黨強大的政治工作威力。吳化文部起義之後，經過整編，成為人民解放軍第三十五軍，以後與原華東野戰軍的魯中南縱隊合併，仍稱三十五軍，吳化文仍然擔任軍長，他的幾個部下仍然擔任副軍長和師長，在我軍派入乾部的幫助教育與全面整頓之後，部隊面貌煥然一新，不僅參加了淮海戰役、渡江戰役和解放南京，而且在1949年4月24日占領蔣介石的總統府，將紅旗插上蔣介石總統府的門樓的，就是三十五軍的革命戰士。
由於吳化文的起義，將濟南的西大門敞開，打破了王耀武的防禦體系，濟南戰局急轉直下。 9月20日，濟南城外守軍被我全殲。 22日夜，我軍使用重砲加坦克（我九縱出動了坦克4輛，這是我軍首次在攻城中使用坦克）配合步兵的連續爆破，一舉攻破外城。由於濟南的內城高達15米，被挖空建造成三層的機槍工事，城下還有城壕和無數碉堡，強攻不易，所以我軍經過充分的準備之後，於23日18時以猛烈的砲火先向敵人陣地進行了40分鐘的破襲，然後開始攻城。第二天拂曉，突入內城，經過激烈巷戰，我九縱七十三團二營首先攻入山東省政府。 24日17時，濟南全城解放。但是，省政府裡沒有王耀武，全城搜索，也沒有王耀武。
原來，就在我軍攻入城的時候，王耀武自知全軍覆沒已是無可避免，就化裝成一個小商販，混在市民之中逃出了濟南城，向青島方向逃去。由於王耀武是山東人，也比較能混，所以一直在老百姓中混了好幾天，才在壽光縣境內被我軍抓住，送進了戰俘營。王耀武被俘後，曾經為自己未能和吳化文一道起義而後悔，他在給吳化文的一封信中說：
“君為座上客，弟為階下囚。你起義向我說一聲，我也起義不好嗎？”
被俘50天之後，他在我軍辦的山東解放軍官教導團教育之下，在我華東新華廣播電台向全國發表了廣播講話。全文如下：
我是前國民黨山東省主席兼第二綏靖區司令官王耀武，今天藉這麼一個機會向各位做簡單的報告。首先我說明這次濟南失敗的原因。守濟南的軍隊有10萬之眾，有關作戰的物資也不為不多，市郊工事經兩年來不斷修築不為不堅，但是僅8天的戰鬥就被全部殲滅了。就是吳化文不起義，亦是很快地要被殲滅。這又是什麼緣故呢？因為國軍沒有理想信仰，反人民，反大眾，加以解放軍英勇為人民大眾的犧牲精神及優越的技能，實令人欽佩。所謂得民者昌，失民者亡，所以很迅速地將戰鬥結束了。其次我要給蔣先生一點意見。在北伐與抗戰中你有一時期與共產黨合作，所以得到成功。但是你堅持獨裁，完全為四大家族打算，因此兵連禍結，全國無一片乾淨土。為了取得軍事上經濟上的外援，不惜與美帝國主義訂了那麼多的辱國條約，斷送子子孫孫的幸福。以現在局勢看，國民黨的失敗已經註定，還要做最後的掙扎是多麼不智。最好命令全國國民黨軍隊立即向人民解放軍無條件投降，使全國立即恢復和平，國家民族多保存一點元氣。
作為華東重鎮的濟南，我軍只用了8天就攻克。當蔣介石得知吳化文起義的消息後，他已知道濟南必丟無疑，也知道我軍的打援大軍正在等他，所以並未催促杜聿明率兵北援濟南。當濟南已被攻克時，蔣介石原來部署的援助大軍的三個兵團中只有一個兵團在動，另兩個還在集結之中。所以，我軍原來準備的打援殲敵計劃未能實現。就這一點來說，華東野戰軍是有一點遺憾的。但是，濟南戰役除了在如何打攻堅戰這一問題上為今後提供了有益的經驗之外，在如何利用敵方內部矛盾去分化瓦解敵人，爭取敵人中的一部分能在戰場上起義或投誠，以減少我方的傷亡、保護城市免遭破壞也提供了十分有益的啟示。從具體的戰果來看，這一仗共殲敵10.4萬人，抓獲敵高級將領23人（除王耀武外，還有他的副司令牟中珩、國民黨山東省黨部主任委員龐鏡塘等）。由於菏澤、臨沂、煙台等地的國民黨軍在濟南解放之後都先後逃走，故而整個山東除青島之外全部落入我手，使華北、華東兩個解放區完全連成了一片，這給我軍的下一步行動帶來了極大的方便。當然，在這一次攻堅戰中我軍也付出了代價，我三縱第八師師長王吉文、十三縱第三十七師政委徐海珊等在戰鬥中光榮犧牲。
濟南戰役是在中共中央西柏坡九月會議這次大決戰的總動員會議召開期間進行的。濟南戰役的巨大成功不僅大大地鼓舞了到會的我軍各路將領，而且消除了會議討論中對我軍的大城市攻堅能力的某些疑慮。用毛澤東修改審定的新華社社論《慶祝解放濟南的偉大勝利》中的話說，“任何一個國民黨的城市都無法抵禦人民解放軍的攻擊了”，包括“北平、天津、瀋陽三點”在內。所以，中央軍委總參謀長周恩來說：“濟南戰役的勝利，揭開了人民解放戰爭戰略決戰的序幕。”