一九三八年三月二十四日，日軍士兵澀谷升日記：
上午六時，向台兒莊前進，第五中隊機槍隊在右側第一線，總隊部向鐵路敵陣開始進攻，敵兵約數千，第五中隊呼應總隊部向敵陣進攻，受敵方猛烈射擊，不支伏於麥田，谷川君戰死，第三小隊之見澤君去向不明，中倉、中原兩君受傷。接著，向鐵路東西面村落夜襲。小隊長下令，各兵要抱死心。敵方以捷克機關槍猛射，我伏在地上，立在前面之森君中彈即死，黑川君亦中彈倒地，金田君負傷。戰車隊向南面驀進，展開肉搏戰，小隊長負傷。因敵兵甚多，我軍含淚而退，馬十匹倒地，經理部長戰死，其他死傷不少。敵方發射愈猛，我中隊不能與總隊部取得聯絡，約歷一夜，川谷君戰死。
這個名叫澀谷升的日軍士兵並不知道，他在中國戰場上的地獄般的經歷才剛剛開始。
堅持要南北夾擊打通津浦路的侵華日軍，儘管在津浦路南段和北段均因受到中國軍隊的不斷阻擊而推進緩慢，但並沒有因此改變其既定的作戰決心。一九三八年三月上旬，日軍華北方面軍再次向東京大本營提出申請：“追剿眼前之敵，決不是深入南進作戰。為警備後方希望增加兵力。”這一次，申請得到了批准，原因“與更換了過去一貫慎重作戰的作戰課課長河邊大佐，於三月一日由陸軍省軍事課高級課員稻田正純中佐就任作戰課長很有關係”，而稻田正純的上任被認為將推動戰爭進入瘋狂狀態。只是，東京大本營還是對華北方面軍給出了限制：“任何場合，均不得超越臨城、棗莊、臨沂之線。”
然而，侵華日軍不會遵守這一限制。
在攻占臨城、滕縣之後，南下佔領嶧縣，就已超越了東京大本營設置的限制線。此時，攻擊臨沂的第五師團坂本支隊，因受到中國軍隊張自忠部和龐炳勳部的阻擊無法脫身，第二軍參謀岡本清福大佐來到兗州，向磯谷廉介轉述了坂本支隊的困境，希望得到第十師團的支援。磯谷廉介立即命令瀨谷支隊：在“確保韓莊、台兒莊運河一線，並警備臨城、嶧縣”的同時，“應以盡可能多的兵力向沂州（臨沂）方面突進，協助第五師團戰鬥”。
瀨谷支隊由步兵第三十三旅團司令部，步兵第十、第六十三聯隊，獨立機槍第十大隊，獨立輕裝甲車第十、第十二中隊，野砲兵第十聯隊（缺一個大隊兩個中隊），工兵第十聯隊第一中隊等部隊組成。
三月二十二日，支隊長瀨谷啟下達了作戰命令：
一、右追擊隊作為韓莊守備隊，負責守備韓莊附近；
二、台兒莊派遣隊（步兵第六十三聯隊第二大隊，配屬野炮一個大隊）明二十三日從嶧縣出發，確保台兒莊附近運河一線地區；
三、沂州支隊（步兵第十聯隊）明二十三日從臨城出發，向沂州方面前進，冊應坂本支隊作戰；
四、支隊主力集結於嶧縣附近。
瀨谷啟知道，中國軍隊的第二師、第四師、第二十五師、第八十九師都已進入台兒莊地區。但是，他依舊不顧中國大軍雲集，目中無人的決定孤軍深入，其投入攻台兒莊地區的部隊竟然只有一個大隊——按照日本陸軍的編成標準，一個大隊的規模大於中國軍隊的一個營但小於中國軍隊的一個團，兵力約在一千至一千五百人之間——足見對中國軍隊的極度蔑視。
台兒莊位於山東嶧縣東南，北接津浦路的台棗支線（台兒莊至棗莊），南臨隴海鐵路，西南距徐州五十多公里。大運河從莊南流過，水深兩米多，自古便是魯南的水陸碼頭。台兒莊名為“莊”，實際上是一座有環繞寨牆並有六個寨門的市鎮，寨牆雖兩丈餘髙卻由磚土砌成，六個寨門分別是：西門、西北門、北門、東門、東南門、南門。城北是一片開闊地，矗立著大小碉樓數十座；西面是鐵路；東面散佈著村莊。
第五戰區司令長官李宗仁後來記述，他對日軍狂妄地孤軍深入是有所預見的：“我當時的作戰腹案，是相機著湯軍團讓開津浦路正面，誘敵深入。我判斷以敵軍之驕狂，磯谷師團長一定不待蚌埠方面援軍北進呼應，便直撲台兒莊，以期一舉而下徐州，奪取打通津浦路的首功。我正要利用敵將此種心理，設成圈套，請君入甕。”由此，李宗仁擬定的作戰計劃的要義是：湯恩伯部提前集結於嶧縣以北，台兒莊防禦僅僅是正面阻擊和牽制，待沿台棗支線南下的日軍被阻擋在台兒莊時，湯恩伯部將從日軍的側背突然發起攻擊，壓縮並殲滅日軍於微山湖畔。這計劃的合理之處在於：南下冒進的日軍兵力不多，且深入了中國軍隊陣線的腹地，只要不讓日軍很快地衝過去，在湯恩伯部主力的包抄側擊下，冒進的日軍定會陷入進退兩難的境地。這時候，只要中國軍隊勇猛出擊，緊密配合，完全可能給予南下的日軍以重創。 ——這個先把主力藏起來，然後再殺回來的戰術，被李宗仁稱為“軸迴旋”。
之所以選擇湯恩伯的第二十軍團擔任側擊主力，根本原因還在於湯恩伯部屬於精銳的中央軍部隊。軍團下轄第十三、第五十二、第八十五軍。第十三軍軍長由湯恩伯兼任，下轄第一一〇師，師長張軫。第五十二軍軍長關麟徵，下轄第二師，師長鄭洞國；第二十五師，師長張耀明。第八十五軍，軍長王仲廉，下轄第四師，師長陳大慶；第八十九師，師長張雪中。 ——“該軍團裝備齊全”，是當時中國陸軍中的“精華”。
負責台兒莊正面防禦的，是從第一戰區調來的孫連仲的第二集團軍。該集團軍名義上下轄兩個軍，即田鎮南的第三十軍和馮安邦的第四十二軍，但在之前的平漢路和娘子關作戰中，馮安邦的第四十二軍損失慘重，僅僅剩下一個空架子，孫連仲多次請求補充都未獲批准。所以，此時的第二集團軍，實際上只有三個師可以參加作戰，即黃樵鬆的第二十七師、張金照的第三十師和池峰城的第三十一師。
第二集團軍屬西北軍舊部，來徐州戰場前被調來調去：先叢山西調到豫鄂交界處的武勝關一帶修築國防工事；後又奉命把修了一半的國防工事交給滇軍第六十軍，北調至鄭州附近去守黃河；剛走到黃河邊上，聽聞滕縣失守，於是奉命東進徐州，歸第五戰區司令長官李宗仁指揮；走到半路，又接到命令，要求趕赴台兒莊地區歸湯恩伯指揮。此時，孫連仲的任務僅僅是牽制住日軍，以便湯恩伯部主力從側背出擊。
因部隊過鄭州時師長池峰城因事停留，李宗仁將師參謀主任屈伸叫到了徐州，當面交代給第三十一師的任務是：背靠台兒莊，向北面的嶧縣出擊誘敵；在日軍受到引誘發起進攻時，堅決守住台兒莊陣地。李宗仁說：“敵如出而迎戰，貴師應盡力堵擊，迨湯恩伯軍團進擊側背，全力壓迫敵人於微山湖畔聚而殲之；敵如固守待援，貴師應盡力牽制，監視敵人，掩護關麟征軍北上與王仲廉軍協力包圍攻擊，殲滅棗莊之敵，再回師合擊嶧縣之敵，將戰線推進到兗州以北。為了協同方便，貴師即暫歸湯軍團長指揮。”
師長池峰城趕到台兒莊後，正在北上的第二十軍團路過台兒莊南車站，池峰城在車站裡會晤了軍團長湯恩伯和第五十二軍軍長關麟徵。湯恩伯表示：“貴師任務重大，務須努力堵擊敵人南進。”而他的部隊將在第三十一師與敵接火後，“不顧一切，馬上抄襲敵之側背”，絕不會讓貴軍“孤軍苦戰”。為了屆時緊密協同，請池師長暫接受關軍長指揮，“一切細節問題請與關軍長就近協商”。池峰城立刻向關麟徵詢問了他最關切的一個問題，即一旦第三十一師與日軍打起來，第五十二軍何時才能發起側擊？換句話說，第三十一師在台兒莊到底堅守幾天才算完成任務？關軍長的回答毫不含糊：“貴師與敵接觸，槍聲一響，我們便能馬上回援，按距離算，最多不出一日定可回援。貴師守台兒莊，能堅持三天即算完成任務。”
池峰城師長無論如何也想不到，後來戰局的演變與關軍長的承諾毫不沾邊，他的部隊不但變成了日軍的主攻對象，他負責防守的台兒莊也變成了戰區的主戰場；而且，圍繞著台兒莊的慘烈戰鬥，竟然持續了半個月之久。其間每一天的每一分每一秒，他都在苦盼著李宗仁的那個“軸迴旋”立即實施，苦盼著湯恩伯部能“不顧一切”“馬上回援”。他不得不“孤軍苦戰”，在那些血肉橫飛的日子裡承受利刀剜骨般的煎熬。
第二集團軍抵達台兒莊後，孫連仲將他的三個師鋪開設防：第三十師在左翼，第二十七師在右翼，第三十一師在中間防守台兒莊。第三十師下轄兩個旅四個團，加上師直屬各部隊，兵力約萬餘人。官兵手裡的步槍型號很雜，以漢陽造的七九步槍居多，還有日本三八式和六五式，以及少量的捷克式七九槍。每連有輕機槍三至四挺，每營有重機槍至四挺，每團迫擊砲連有八二迫擊砲四門。全師配屬一個砲兵營，有野炮十門。
剛進入台兒莊的時候，這裡的店鋪還在營業，街上的行人也是神情悠然。但是，一看到第三十一師官兵駐紮下來，聽說這裡將要和日本人打仗時，一夜之間台兒莊成了一座空城。
二十二日，上午十一時，第五十二軍軍長關麟徵發布作戰命令，其中涉及第三十一師的部署是：
第三十一師應於本晚，由台兒莊渡河，主力控制於南洛、北洛一帶，以得力之一部，在獐山附近佔領陣地，向嶧縣方向警戒，掩護本軍由台兒莊渡河。本月二十三日拂曉前，應推進至獐山、天桂山一一五高地、白西山之線佔領高地，並以一部時時向嶧縣之敵襲擊，以一部向韓莊方面游擊。
十五時三十分，第三十一師師長池峰城下達的作戰命令是：
一、第九三旅之一八五團位置於北洛，以一營進至前城、趙莊地區，該旅之便衣隊即向獐山、北山西、黃山湖搜索而佔領之。旅部率禹營位置於南洛附近，應於明拂曉後向嶧縣之敵佯攻，後逐次抵抗於北洛附近。第一八六團（欠禹營）擔任台兒莊之守備。
二、第九一旅一八一團控置於台兒莊，以一八二團擔任台兒莊運河南岸警戒。
三、師騎兵（欠兩班）於明日拂曉向嶧縣東南地區極力活動。
四、師部推進至台兒莊。
池峰城還命令工兵營收集船隻，在西門外的運河上搭建浮橋，作為師指揮部與寨內的交通補給線和聯絡線。
這是背水一戰的部署。
天黑了，關麟徵的第五十二軍將運河南岸防務移交給軍團直屬的第一一〇師，然後經台兒莊、蘭陵鎮移至棗莊以東的向城一帶；王仲廉的第八十五軍則在嶧縣與韓莊一線與日軍脫離接觸，然後轉移集結在率莊以北的抱犢圍山區裡——這是在執行李宗仁的“讓開津浦路正面”的設想。
二十三日拂曉，按照李宗仁誘敵深入的計劃，第三十一師開始向台兒莊以北的嶧縣方向主動出擊，實施佯攻誘敵。 ——湯恩伯說，日軍佔據的嶧縣城池很堅固，必須把他們引出來。第三十一師派出了由連長劉蘭齋率領的騎兵連、由一八五團一營副營長王保坤率領的加強步兵連，第九十三旅旅長乜子彬則率一八五團主力隨後跟進。此時，日軍台兒莊派遣隊正沿台棗支線南下，兩軍在嶧縣以南約二十里的康莊、趙莊附近遭遇，第三十一師的騎兵連和加強步兵連且戰且退。接近中午時分，日軍增加三百餘兵力，又增加了七輛坦克，沿著鐵路線兇猛地向前突擊。騎兵連和加強步兵連分別陷入包圍，激烈的交戰中傷亡慘重，一營副營長王保坤、加強連連長寇葆貞均陣亡。十四時，日軍逼近鐵路西側的北洛並發起攻擊，第九十三旅的簡易工事被日軍炮火摧毀，一八五團堅持至傍晚時分，團長王郁彬指揮官兵退守南洛。
瀨谷啟從戰場上的中國戰俘那裡得知：嶧縣以北是湯恩伯部的四個師，擬於二十四日發起攻擊。瀨谷啟當即決定：支隊主力集結在臨城、嶧縣一帶，準備與湯恩伯部展開決戰，以確保徐州北面的門戶韓莊以及台兒莊附近大運河一線。只是，他並沒有改變台兒莊派遣隊的任務。此時，中國第五戰區的將領們尚未摸清日軍的真正意圖，認為日軍向台兒莊方向的攻擊是試探性的，日軍的主要作戰目標是在嶧縣附近與湯恩伯部決戰。那麼，只要明天日軍不繼續向台兒莊靠近，以台兒莊為靠背的誘敵深入計劃就仍需維持。依據這一判斷，二十三日晚，池峰城師長下達的作戰命令依舊是：與當面之敵保持接觸，吸引敵軍南進，以協力湯恩伯軍團之攻勢，殲敵於台兒莊以北地區。
令中國官兵印象深刻的是：日軍向台兒莊進擊的兵力並不多，但是在接敵的第一天，騎兵連和加強步兵連就有百餘人陣亡，且多是陷入包圍後被日軍屠殺的。日軍殘暴而凶悍的殺傷力，令必須主動接敵的第三十一師官兵有了隱隱的不安。
二十四日拂曉，中國空軍出動十四架戰機，轟炸了韓莊、臨城和穿莊一帶的日軍據點。瀨谷啟知道，這是中國軍隊發動大規模攻擊的先兆。瀨谷支隊主力集結在臨城、嶧縣一線，卻一直沒有等來中國軍隊的任何動靜——湯恩伯並沒有按照預定時間發起攻擊，他的軍團部和第八十五軍仍停留在抱犢山區裡，只有關麟徵的第五十二軍到達了預定進攻位置——棗莊東面的鵓鴿窩、郭裡集一帶，並在那裡與瀨谷啟指揮的沂州支隊形成對峙。這個時候，日軍台兒莊派遣隊仍在向台兒莊推進。
二十四日早七時，台兒莊派遣隊從北洛出發，其前鋒試探性地攻擊了孫莊，在第三十一師的抵抗下沒有進展。兩個小時後，日軍後續部隊抵達，在二十餘門火砲的掩護下，向北洛以南一線發動了猛烈攻擊，台兒莊以北的劉家湖各村相繼失守，第三十一師官兵一邊抵抗一邊逐次後退。中午，日軍飛機對退入台兒莊東北方向園上村內的中國守軍迸行了轟炸，守軍傷亡殆盡時日軍佔領了園上村。
從劉家湖和園上村，日軍已經能夠看見台兒莊單薄的寨牆了。
日軍台兒莊派遣隊單刀直入，根本不管置於側背的湯恩伯部，其一路進擊的方向始終是台兒莊，而瀨谷支隊主力則集結在台兒莊派遣隊身後，隨時以備湯恩伯部不測。池峰城師長終於意識到，日軍台兒莊派遣隊既不是在試探性攻擊，也從沒有為中國軍隊所誘，其作戰任務就是佔領台兒莊，他的第三十一師已經坐在了火山口上。
池峰城立即聯繫湯恩伯部以求獲得支援：
師自二十三日晨誘致當面之敵接觸以來，迭將戰況電報軍團長湯、軍長關，迄未取得聯絡。今十三時，始奉軍團長湯、軍長關電示：軍團正於郭裡集與敵激戰中，爰悉軍團主力迂迴已遠，未能即時回軍南開殲當面之寇。
湯恩伯的意思是，他的第二十軍團已向台兒莊以北走出很遠，正在棗莊東南方向的郭裡集與日軍“激戰”，無法南下“迴旋”台兒莊助池峰城部殲滅“當面之寇”。
池峰城沒有別的辦法，只有命令一八五團不惜一切代價向劉家湖反擊，命令一八六團務必收復園上村，以重新構築起台兒莊北面的外圍防禦線。十四時，一八五團由南洛突然出擊，當面日軍猝不及防，出現傷亡後撤退，劉家湖陣地得以收復。但園上村里的日軍據守不退，一八六團的反擊沒有成功。劉家湖陣地剛剛穩定，日軍突然又反攻而來，致使台兒莊北面陣地全面陷入激戰，一股日軍突破了中國守軍防線直逼台兒莊城下。日軍集中起砲兵火力，對台兒莊實施了破壞性轟擊，第三十一師師部所在的南車站大樓被擊中，師部被迫轉移到車站附近的一座鐵路橋下。台兒莊的北面都是開闊的平地，日軍迫近寨牆時不得不暴露在中國守軍的火力之下，每前進一步都要付出巨大代價，日軍士兵只好瘋狂地挖掘臨時掩體，挖出一個坑趴在裡面不敢抬頭。為了壓制中國守軍的火力，日軍再次對台兒莊寨牆進行了四個小時的轟擊，致使北部寨牆多處倒塌，形成幾個大缺口，數股日軍從缺口衝入。危急時刻，一八六團團長王震、團附姜常泰率領預備隊緊急增援。中國守軍的輕重機槍向突入的日軍猛烈掃射，日軍在傷亡不斷的情況下仍持續衝鋒，兩軍在寨牆附近混戰在一起。戰鬥中王震團長和姜常泰副團長均負重傷。池峰城派副師長康法如上來頂替王震指揮，可康副師長剛上來便身負重傷，池峰城又派參議王冠五上來指揮。經過死戰，中國守軍終把突入寨內的日軍逼退，北寨牆外的日軍遺屍後撤。
台兒莊激戰之時，二十三日蔣介石抵達徐州視察，並讓隨行的副參謀總長白崇禧、軍令部次長林蔚和作戰廳廳長劉斐留下來，協助第五戰區指揮作戰。台兒莊受到的猛烈攻擊，令包括蔣介石在內的所有人頗感意外。或許此時李宗仁才意識到，讓孫連仲部誘敵深入，再讓湯恩伯部猛烈側擊，以圖壓縮日軍於微山湖畔將其殲滅的“軸迴旋”計劃過於誇張了，台兒莊才是這股日軍必要攻克的戰略要點。於是，第五戰區改變了作戰部署：命令第三十一師防守台兒莊，取消原定之誘敵任務，並增調一個砲兵營（攜帶七十五毫米野炮十門）、一個機械化野戰重砲兵連（攜帶一百五十毫米榴彈砲兩門），以及鐵甲車第三中隊，全部配屬給第三十一師。同時，解除第三十一師歸屬湯恩伯指揮的命令，將第三十一師交還給孫連仲的第二集團軍指揮。
孫連仲隨即命令第三十一師全力死守台兒莊，命令右翼黃樵鬆的第二十七師火速增援台兒莊，然後他把自己的集團軍總指揮部前推到距台兒莊不足兩公里的一個小村莊里——儘管處在日軍火砲的射程內，但這個小村莊實在是太小了，以至於日軍始終未能判明這裡就是孫連仲的指揮部。按照規定，總指揮部的位置應距戰場第一線二十公里，但孫連仲率領他的參謀們上了前沿，足見其死守台兒莊的決心。
二十四日凌晨五時，黃樵鬆的第二十七師叢山東與江蘇交界處的柳泉、賈汪地區徒步向台兒莊開進，輜重營及砲兵則由火車運至台兒莊南站。黃昏時分，第二十七師全部抵達並在規定地域展開：第七十九旅在鐵路以西，第八十旅在鐵路以東，師部與直屬隊在台兒莊以西約十公里處的賈橋。午後，集團軍總司令孫連仲命令第二十七師，以一個營接替第三十一師的運河防線陣地，其餘部隊皆立即開赴台兒莊“暫歸池師長指揮”。
午夜，白崇禧在孫連仲的陪同下來到第二集團軍指揮部。了解敵情與戰況後，白崇禧認為：“敵將以一部牽制我湯軍團，而以主力攻略台兒莊，以崩壞我迂迴軍之旋轉軸。”——我誘敵部隊變成了敵主攻目標，我主攻部隊變成了敵牽制對象，第五戰區精心策劃的“軸迴旋”計劃，於作戰發動之際其“軸”就已“崩壞”了。臨走，白崇禧囑咐池峰城師長：“台兒莊乃徐州屏障，今此要點，已非湯軍團之旋轉軸，乃戰區旋轉軸也，期能三日守，俾戰區獲得時間餘裕，敵可就殲也。”
同是這天晚上，瀨谷啟收到了台兒莊派遣隊受到攻擊請求增援的電報，他當即派出兩個中隊攜帶兩門重砲南下增援台兒莊。日軍第十師團師團長磯谷廉介得知台兒莊派遣隊受挫後，決定由第六十三聯隊福榮大佐率領第三大隊趕赴台兒莊指揮攻堅。
除了死守台兒莊之外，孫連仲已沒有別的選擇，但他知道進攻是防禦的最好手段。二十五日凌晨二時，他命令部隊北出向台兒莊外圍的日軍實施反擊。在漆黑的夜色裡，一八六團一部佯攻孟莊，主力則向園上村實施反擊，日軍據守在園上村的民房和碉褸裡，反擊部隊因遭到炮火殺傷而無大進展。一八五團一部攻擊裴莊的日軍，經過激戰雙方形成對峙。一八二團向滄浪廟方向的反擊取得成效，日軍開始向園上村方向撤退，一八五團乘機攻占了裴莊。中國官兵從繳獲的文件中得知，日軍第六十三聯隊第三大隊已經到達戰場。
凌晨四時半，池峰城發布命令：一八一團固守現位置，主力在台棗鐵路線東側，於日軍南進時實施側擊，同時把台兒莊以北劉家湖附近的公路盡量破壞；一八六團參加反擊作戰的部隊盡快回撤，加強台兒莊內城防工事；一八二團回撤北車站，作為全師預備隊；砲兵七團佔領並開設砲兵陣地。之後，池師長親自帶領鐵甲第三中隊出台兒莊向北，於早晨六時抵達南洛村北端，然後指揮砲兵向北洛及劉家湖的日軍據點開始轟擊——“敵頓形驚慌混亂，殺傷甚大，敵旋以炮還擊，傷我士兵兩名，機槍一挺，即撤回車站。”
天亮了。日軍在飛機轟炸和炮火轟擊後，猛攻南洛附近中國守軍陣地。第三十一師兩次北出台兒莊增援，依舊沒能抵擋住日軍步兵的衝鋒，南洛北面的陣地失守，守軍兩個連的官兵全部陣亡。接著，南洛以東的劉家湖陣地失陷。為爭取主動，第九十三旅旅長乜子彬率一八五團向南洛攻擊前進。上午十時，部隊行進到劉家湖附近時，乜旅長發現村東北的小樹林裡有日軍的砲兵陣地，大約十門火砲正瘋狂地向台兒莊方向轟擊。三營營長高鴻立決心把那十幾門大砲奪到手。
高是農民出身的軍人，性格剛直粗獷，一向作戰勇敢果決。馬上在麥田裡集合全營部隊，指著那片小松林說：“你們瞧，轟炸我台兒莊的砲彈，都是從那裡發射的。我們要把狗日的那十幾門砲奪回來，煞煞鬼子的威風！你們敢不敢？”話音剛落，高鴻立忽地把上身的棉軍衣和襯衫全脫下來，左手握著手槍，右手舉起大刀，赤胸露臂，以洪亮的聲音喊道：“敢隨我去奪炮的要像我一樣！”話未說完，全營官兵霎時間全把上衣脫得精光，端著上了刺刀的步槍，在高營長率領下，白光閃耀，直向小松林沖去。敵人見此情景，驚恐萬狀，一面以步槍向我高營阻擊，一面拉出砲車掉頭向東遁逃。高營官兵一片喊殺聲隨後追擊。
正在追擊中，北面突然出現日軍的千餘步兵和二十多輛坦克，見到自己的砲兵被中國軍隊追得在麥田裡狂奔，日軍坦克立即迎著高營長的部隊沖過來。中國官兵沒有打坦克的武器，很快就被日軍沖散，各自為戰地與日軍步兵廝殺在一起。一八五團團長王郁彬聞訊率營趕去增援，於是，一場更大規模的肉搏戰在麥田裡展開。喊殺聲、槍彈聲、坦克的轟鳴聲和刺刀的碰擊聲匯成一片。雙方血戰兩小時，待旅長乜子彬前來解救時，王郁彬團長的大腿被子彈洞穿，高鴻立營長頭部負傷，一營和二營營長都已陣亡，一八五團連以下官兵陣亡了一半以上。 ——儘管一八五團付出了巨大代價，“但使一向驕橫的日寇認識到中國人的骨頭還不是他們想像中的那樣好啃的”
外圍的受襲，並沒有阻止日軍攻占台兒莊的決心。
二十五日下午，在日軍猛烈的砲擊下，台兒莊北門以及附近寨牆“倒塌數丈”，日軍步兵從缺口處向莊內猛突。為減緩莊內守軍的巨大壓力，台兒莊外圍部隊奉命發起側擊，由於火力弱勢沒能減緩日軍的強攻，台兒莊北門最終被突破，兩百餘名日軍衝了進來。守寨牆的一八六團官兵奮力反擊，以四百餘名官兵傷亡的代價將缺口封堵，但一部分日軍被堵在了莊內的大廟裡。這是台兒莊城內的一座城隍廟，樓高院深，裡面長滿野草，中國士兵放火將草點燃，致使大廟燃起熊熊烈火，竄進來的日軍官兵全部被燒死在裡面。
這一天，戰場上終於傳來了湯恩伯部的消息：集結在棗莊以東的關麟徵的第五十二軍第二十五師第七十五旅一部，與瀨谷啟指揮的日軍沂州支隊前鋒小部隊發生了戰鬥；第五十二軍的第二師也從鵓鴿窩方向對棗莊發起攻擊，激戰兩晝夜後一度佔領了大部市區，但隨即便遭遇了增援日軍的強力反擊。師長鄭洞國向湯恩伯求援，湯恩伯率第八十五軍主力仍在抱犢崮山中，接到電報後僅派出一個旅，這個旅又只派出個團，這個團也就派出了幾個排，在棗莊外圍騷擾一番就撤走了。關麟征軍長怒火中燒：“湯先生是我們的老長官，對我們也玩弄這一手，實在太不應該。”但是，湯恩伯給李宗仁發去電報報告的卻是：“棗莊之敵約一聯隊，經我第四師猛攻後，即退入棗莊東部之中興煤礦公司頑強抵抗。該公司房屋堅固，敵並設外壕電網，不易攻擊。棗莊西部均為我佔，並經火焚燒敵戰車七八輛。刻乃激戰中。經飭該師如再不能奏效，即以一部對敵監視，主力仍撤回棗莊以北高地，本晚再行攻擊，並一部進出棗莊南端之鐵路線上夾擊之。嶧縣縣城及其附近有敵約三千餘人。關軍昨晚已開始攻擊，請飭空軍迅速前來轟炸棗莊之中興公司及嶧縣縣城。”——湯恩伯明知台兒莊正遭受日軍持續猛烈的攻擊，卻按兵不動，反要空軍來轟炸他的部隊所在戰場上的日軍。
這天凌晨，日軍士兵澀谷升跟隨他的部隊退至南洛村：
敵裝甲車出現於前面約距五十公尺，因勢寡不得動手，浜尾君戰歿，排長率第五分隊前往總隊部聯絡時，我陣地北方發現敵兵數千人，吹喇叭而向我陣地進攻。劉家湖方面之敵兵亦甚眾，向我攻襲，各兵抱定決心待死，經歷兩小時許，忽聞友軍槍聲四起。第七中隊及輜兵隊負傷頗眾，在劉家湖取抵抗態勢，傷兵送往衛生隊，中途所有鄉村均放火焚燒。
台兒莊中國守軍在數量上是日軍的五倍，但裝備上卻與日軍相差甚遠。日軍除了有大量飛機助戰外，重型火砲的優勢十分明顯，步兵還配屬了大量坦克。孫連仲部既沒有坦克，也沒有反坦克武器，官兵們只能依靠血肉之軀阻擊日軍的進攻。台兒莊鎮面積不大，迴旋餘地很小，莊內也沒有可以利用的高大堅固的建築物。在日軍兇猛火力的轟擊下，寨牆一次次地被突破，守軍填補缺口變得越來越艱難，往往需要付出巨大的代價。台兒莊內的民居，大多由石塊砌成，日軍突進來佔據一座民房，這座民房就會變成一座地堡，中國守軍很難一一清除。但對於日軍來講，中國守軍誓死不退，即使突進去部分步兵，也會遭到毫不猶豫的反擊。在逐街逐屋的巷戰中，突進去的士兵面對中國守軍的頑強拼殺，很難擴大戰果。在台兒莊這個狹窄的地域裡，雙方都無法投入更多更密集的兵力，鎮內的短兵相接也使日軍的優勢火砲無法進一步發揮威力。攻者意志強硬，守者寸土不讓，雙方在這個運河邊的小鎮內外進行的猶如一場永無休止的拉鋸式肉搏。
二十六日，台兒莊依舊處於混戰之中。
早晨七時，園上村附近的日軍砲兵開始向台兒莊轟擊，步兵在砲火準備後再次強攻北寨牆。兩個小時後，台兒莊北門再次被日軍突破，一股日軍又竄入了鎮內的城隍廟。昨天，中國守軍在這裡放火燒死了數名日本兵，現在荒草已經燒光，再放火也無濟於事，日軍堅守在裡面無論如何不出來。北門的缺口越來越大，湧入的日軍越來越多，台兒莊守軍開始內外受敵。 ——“我守兵塞街巷，拋瓦罐，擲家具，折棟傾牆以堵擊，在敵砲擊下死傷累累，城內始步步荊棘，卒遏制敵之進展，而敵亦自斃於轟擊者甚重。”
傍晚，台兒莊的東面被日軍佔領。
中國軍隊據守著西面，與日軍形成對峙。
這一天，第三十一師守軍死傷達千人以上。
晚上，乜旅長視察台兒莊守軍陣地，他對官兵們說，現在是巷戰階段，巷戰全憑手榴彈和大刀，這是咱們拿手的，也是敵人害怕的。只要保持旺盛的士氣，就可以與敵人拼一陣子。為了防止日軍放火，須把我軍佔據的民房草頂全部拆除。還可以大量使用民房裡的木料和雜物——“向不忍於民者，今民已盡，任君放手為之。”同時要充分利用火攻制敵：“多備棉油彈，著火彎弓以射之。城中油商花行有餘裕矣。”
入夜，一八五團團長王郁彬命令禹功魁、汝心銘、古文照和秦應岐的四個營，各配屬一個工兵小組和兩門迫擊砲，向佔據台兒莊東面的日軍實施反擊。四個營的八門迫擊砲，首先轟擊了日軍的火力製高點碉樓，一口氣打出五十多發砲彈，然後各營開始出擊。日軍頑強抵抗，中國官兵前赴後繼，雙方都不顧生死，最後一八五團的反擊成果僅僅是奪回了三個民居院落。營長禹功魁由於作戰勇猛，當場升任一八六團團長。
這時候，奉白崇禧之命從開封開來的戰車防禦砲連抵達台兒莊。這種新式大砲中國軍隊僅僅裝備了兩個連，雖然每個連只有兩門大砲，卻都是德國製造的大口徑榴彈砲，還附有加農炮炮筒，射程達到兩萬米以上，且有現代化的通訊指揮系統，是當時中國軍隊中最強大最新式的重砲。池峰城師長立即命令戰車防禦砲連開設陣地投入作戰，四門重砲果然火力非凡，直打得日軍“暈頭轉向，莫知所措”。
二十七日凌晨，台兒莊外的日軍開始攻擊西寨牆。飛機和火砲將寨牆轟塌之後，步兵在二十多輛坦克的掩護下衝鋒。台兒莊寨牆已經千瘡百孔，根本無法阻擋日軍的湧入——“我寨上官兵死傷於敵人炮火及塌陷的寨牆壓埋而陣亡者甚多”。在西門附近防守的一八一團三營傷亡殆盡，三百餘日軍突入城內隨即豎起日本旗，中國守軍不得不退守街區縱深，依靠被毀壞的“破屋斷牆”節節阻擊。防守北車站及西陣地的一八五團，在之前的劉家湖戰鬥中損失慘重，這時因新的傷亡不斷而致兵力捉襟見肘。第三十一師已抽不出任何增援部隊，負責指揮莊內守軍的副師長王冠五在電話裡向師長池峰城請求撤退。池師長心力交癢，猶豫不決，詢問參謀主任屈伸。屈伸認為，一點放棄將影響全局，建議把工兵營和騎兵連拿上去。池峰城在電話裡對王冠五說：“台兒莊是我們的墳墓，堅決頂住，不能撤退！援軍馬上就到！”隨即命令工兵營和騎兵連增援寨內。同時，命令一八六團和一八二團必須各抽一個營緊急增援北門。援軍到達後，王冠五親率部隊反擊，官兵們拔下日本旗，換上中國旗，並把一部分日軍從寨牆缺口堵了回去，城裡的殘餘日軍退入城隍廟。
日軍士兵澀谷升也在攻擊隊伍裡，他認為自己還活著是“非常奇蹟”：
天亮六時半，各砲隊開始發炮，其音響震動天地。第五第六兩中隊結成敢死隊，由城牆之破裂口衝入。牆邊有河浜，手榴彈如雨飛來，數人中彈倒斃，其慘狀為人間地獄。隊長命令，不管死傷如何慘重，各應盡本分。步兵幾乎全員倒斃，手榴彈仍如雨飛來，我身邊亦飛來數枚，我無負傷，非常奇蹟。經激戰方得佔領城市之一隅，我方已犧牲半數以上。然後將死傷者全部收容於大房屋內。黃昏，敵再度來襲，我方受傷數人，手榴彈仍如雨似雪飛來。夜間，我與林原、足立兩君刺死敵兵九名。通宵槍聲不絕。
為了牽制日軍的攻擊，一八一團（欠三營）和一八五團二營奉命迂迴到日軍側背，向劉家湖、三里莊和墩上村發起攻擊。上午十一時，一八五團二營攻占墩上村，一八一團二營逼近三里莊，一八一團一營攻占了劉家湖。但是，日軍緊接著就發動了大規模反擊，墩上村即刻失守，三個營的中國官兵在撤退時傷亡大半。
下午一時左右，日軍的十一輛坦克直接衝到距台兒莊西北寨牆兩百米處，隨即停下來向台兒莊內開砲射擊。日軍的坦克兵尚不知台兒莊中國守軍已經調來了重砲，中國軍隊的重砲瞄准後突然開始轟擊，十一輛日軍坦克中六輛中彈起火，其餘五輛見狀倉皇而逃。寨牆上的中國守軍不禁歡呼起來，膽大的士兵跳下寨牆，開始追擊四處逃散的日軍坦克兵砍殺射擊，另一些士兵爬上被擊毀的坦克卸掉上面的機槍。在劉家湖和園上村里的日軍目睹了這一場景一“舉目駭視，竟不發一彈，似為我歡聲所震眩，竟達五分鐘之久，實戰場上絕無僅有之奇景也。從此敵戰車不敢迫近台兒莊矣”。
台兒莊中國守軍第三十一師幾天來已傷亡了三千多人，池峰城師長把全師重新編成七個營。為加強台兒莊的兵力，第二集團軍總司令孫連仲命令張金照的第三十師和吳鵬舉的第四十四旅增援。
晚上，日軍增援部隊全部抵達劉家湖。
台兒莊的戰局愈發嚴峻。
中國守軍在兵力上佔據絕對優勢，打來打去卻讓日軍佔了半個莊，這讓戰區司令長官李宗仁“殊感詫異”，他嚴令第二集團軍於二十九日前將衝入台兒莊內的日軍消滅乾淨：
台兒莊為徐州前方要地，又為湯軍團後方聯絡要道，關係重要。據報該處附近敵人約一混成聯隊，我軍兵力數倍於敵，早當解決，乃經幾日戰鬥，台兒莊圍子反被敵衝入一部，殊感詫異。著貴總司令負責嚴督所部，限於二十九日前將該地肅清，勿得延緩，致誤戎機為要。
不知在日軍絕對優勢火力下苦守台兒莊的孫連仲接到這封電報時是何心情。此時，孫連仲最關切的並不是李宗仁的“殊感詫異”，而是那個說好了由他發動迴旋作戰的湯恩伯究竟在哪裡？
湯恩伯部僅以少部兵力在棗莊附近與日軍糾纏，軍團主力依舊躲在抱犢圍山區裡不出來。雖然湯恩伯不斷致電蔣介石和李宗仁，報告他的部隊對棗莊、臨城一帶的日軍進行了持續攻擊，但至少從台兒莊方向的戰場態勢上並沒有顯出任何冊應的效果。倒是二十七日這一天，由行政專員兼保安司令李明揚率領的游擊隊攻入了臨城，不但將留守在城內的日軍殲滅，還焚燒了日軍儲存的大量軍用物資。大火燒了一天一夜，迫使日軍抽調兵力從南向北增援臨城，但增援日軍趕到時，李司令的游擊隊已經跑得無影無踪了。
中國官兵在戰場上捉到一個為日軍探聽情報的中國人，這個名叫寧天成的中國人是偽軍第二師三團二營六連的士兵。從這個偽軍的口中，他們了解到，在自己不畏生死與日軍血戰的同時，還有另一群中國人在為虎作倀：
劉桂堂任偽滿第十七軍軍長兼前敵總指揮，位置在臨城、濟寧附近一帶。該軍有三個師，師無旅，直轄四個團；每團三個營及一迫擊砲連，外加通信特務排各一；每連十二班，班有十二人，配有輕機槍一挺。每營有步兵連三，機關槍連一；連有機關槍四挺，每槍馱馬三匹。迫擊砲連有炮六門，每炮有馱馬五匹；師直屬騎兵連及特務營各一。每連有日人二，每營一，每團三，擔任監視工作。該軍第二師師長劉桂俊，是劉桂堂的鄉親。
孫連仲不斷地打電報給湯恩伯，要求他的第二十軍團積極行動，全力冊應台兒莊的正面防禦。湯恩伯主張由第五十二軍和第八十五軍各抽出一個團，組成一個混成旅，向嶧縣的日軍守軍發起攻擊，以回應孫連仲的一再請求。令湯恩伯沒想到的是，他的主張即刻遭到軍團將領們的集體反對：“我們鑑於日軍復由臨城向棗莊增援，在短期內攻克該城已不可能，提出放棄攻擊嶧棗之作戰計劃，以軍團主力全力攻擊敵之側背，這樣既可以減輕台兒莊、運河一線我第二集團軍的壓力，又可包抄敵瀨谷支隊的後路，尋機將其全殲。關麟徵將軍尤不同意以小部隊攻擊嶧縣敵人之側背，主張要打就全力打，不可以零打碎敲。”
二十八日晚十時，李宗仁致電湯恩伯：“台兒莊方面孫集團陷於膠著狀態，敵我均在困難中，貴軍應為有力之援助迅速南下夾擊之。”第二天晚八時，李宗仁再次致電湯恩伯：敵主力已“繞出台兒莊東側第二十七師背後”，企圖包抄孫連仲的第二集團軍的後方。 “著貴軍團長以一部監視嶧縣，親率主力前進，協同孫軍肅清台兒莊方面之敵，限拂曉前到達”。湯恩伯這才決定第二軍團向台兒莊方向出擊。 ——當初，他與關麟征軍長對池峰城師長的承諾是：只要台兒莊的槍聲一響，“最多不出一日定可回援”。可現在，池峰城師長的第三十一師已在台兒莊苦戰了五天。
即使已向台兒莊靠近，湯恩伯依舊存有私心：“第八十五軍是湯氏的老部隊，所以他處處想使該軍在承擔作戰任務時避重就輕。在攻擊棗莊時，第五十二軍由東向西打，面對著臨城、棗莊敵之主力，第八十五軍卻緊靠著抱犢崮山地。現在向台棗支線攻擊，他卻把原在北面的第八十五軍南調，左翼依托台兒莊，右翼是第五十二軍，使該軍處於比較安全的地位。”
無論如何，湯恩伯部已開始向台兒莊靠近了。但是，也就僅僅是“開始”而已。
台兒莊內，日軍據東，我軍據西，交戰雙方近距離的對峙頻繁引發殘酷的巷戰；而在台兒莊外，除了南面的徐州方向，剩下的三面都已處於日軍的合圍中。
二十八日午夜，趁莊外日軍暫時停止攻擊的間隙，莊內的中國守軍向日軍盤踞的城隍廟和碉樓實施反擊，一次又一次，官兵們試圖把闖進莊內的這股日軍消滅。日軍盤踞在房頂上，機槍火力十分猛烈，導致反擊部隊付出巨大傷亡。二十九日凌晨，第三十一師投入兩個團的兵力，對城隍廟和西北角同時發起反擊，“頑敵卒被驅入大廟及東南西北各碉樓內。敵每退出一房，即縱火燃燒，企圖阻我前進，我官兵雖焦頭爛額，終以兵器關係極難聚殲”。十日凌晨，第三十一師收集了所有的迫擊砲彈，為驅趕西北角的日軍開始了猛烈砲擊，致使日軍“紛紛竄據城角掩蔽部內及民房”內。砲擊停止後，日軍又紛紛竄出來，激烈的巷戰開始了，一直到天再次黑下來，台兒莊內的肉搏“未嘗稍停”。
為緩解台兒莊守軍承受的巨大壓力，外圍的中國軍隊每晚都對日軍據點發起反擊。盤踞在這些據點裡的日軍，大多因白天作戰疲憊而在睡夢中。為了消耗日軍的體力和兵力，不睡覺的中國官兵認為他們必須“妨礙敵人休息”。二十九日凌晨三時三十分，第二十七師的一個團向裴莊發起攻擊。官兵們一舉把裴莊里的日軍趕跑了，然後部隊繼續向邵莊追擊，“斃敵極眾，斃敵馬匹尤多”。日軍跑到邵莊後，集中炮火轟擊，大量的燃燒彈令中國官兵傷亡巨大。第二十七師的另一個團向劉家湖反擊，遭到日軍坦克的反沖擊，雙方展開砲戰的同時，步兵在村莊邊緣的麥田裡混戰，第二十七師傷亡三百多人。三十日午夜，第二十七師第八十旅再次向劉家湖發起攻擊，主要目標是劉家湖村內的日軍砲兵陣地——“敵輕重大砲八十餘門，陷入我火網之內，難以轉移，死傷枕藉。劉家湖之敵向我反撲，園上之敵呼嘯來援，與我發生激烈之白刃戰，彼此皆腹背受敵，我為爭奪此砲兵陣地，亦死傷甚眾。”
無論中國軍隊於台兒莊內外發動的反擊作戰是否結束，只要天一亮，日軍便再次集合起主力開始向台兒莊發動進攻。疲憊不堪的中國守軍已經習慣了這一規律：大約六至七時之間，先是微明的天色中傳來飛機的引擎轟鳴聲，然後便是對莊里莊外的猛烈轟炸和低空掃射。同時，日軍砲兵從東、西、北三個方向，集中火力轟擊台兒莊內的中國守軍陣地。煙火瀰漫，磚石橫飛，中國守軍只能躲在臨時挖掘的防空洞裡，但寨牆上的守軍不能躲藏，因為日軍步兵隨著炮火就上來了。寨牆已不知被炸塌過多少次，又修復過多少次，那些沒有在轟炸和轟擊中傷亡的守軍官兵從瓦礫中爬出來，透過瀰漫的煙塵，便能看見由日軍士兵組成的土黃色波浪洶湧而來。
十八日早上，台兒莊中國守軍發現進攻的日軍多了。日軍增援部隊到達後，參加攻擊台兒莊的部隊是：步兵第六十三聯隊（約兩個大隊）、獨立機槍第十大隊、輕裝甲車第十中隊、中國駐屯軍臨時戰車中隊、野砲兵第十連隊第一大隊（缺第一中隊）、野戰重砲兵第二聯隊（缺第二大隊）、中國駐屯軍砲兵聯隊一小隊、工兵第十聯隊第一中隊一小隊。
台兒莊寨牆的西北角再次坍塌，數百日軍從缺口湧入逼近北站。中國守軍編織起密集的火網，令日軍步兵的衝鋒受阻。九時，日軍加強兵力強行沖鋒，雙方陷入白刃戰。十一時，大股日軍從西北角爬到寨牆上高高的文昌閣內。這座閣樓早已在砲火下坍塌，只剩下半截，日軍士兵往上爬的時候，遭到中國守軍的猛烈射擊，閣下佈滿了日軍的屍體，而衝上去的日軍士兵發現他們下不來了，因為中國守軍已向文昌閣發起了反擊。防守西門的一八一團，把被擊毀的日軍裝甲車作為機槍掩體，最終封堵上了西北角缺口，但寨牆上依舊有百餘名日軍在堅持，雙方都已筋疲力盡，不得不形成對峙。
晚上，莊里的日軍突然發起反擊，莊外的日軍也同時發動攻擊。台兒莊里外火焰沖天，中國守軍的電話聯絡都被切斷，只能在各個方向上各自為戰。日軍再次突入四百多人，舉著火把到處放火，但火光也讓中國守軍尋找到攻擊目標。黑夜裡的混戰一直持續到午夜，台兒莊內的戰鬥逐漸停歇。
蔣介石發來電報說，如果台兒莊失守，不但第二集團軍全體官兵是死罪，連第五戰區司令長官李宗仁、副參謀總長白崇禧和軍令部次長林蔚都將嚴懲不貸：
台兒莊屏障徐海，關係第二期作戰至巨，故以第二集團軍全力保守，即有一兵一卒，亦須本犧牲之精神，努力死拼，如果失守，不特該軍官兵死罪，即李長官白總參長林次長亦當嚴辦。
獲悉電文的孫連仲派出了兩名執法官：第四十二軍軍長馮安邦赴台兒莊右翼，負責督戰第二十七師；第三十軍軍長田鎮南赴台兒莊左翼，負責督戰第三十師和第四十四旅，同時督戰堅守台兒莊的第三十一師。
二十九日晨，孫連仲召集軍長和師長們開會，其間他特別囑咐第三十一師：不要指望增援，必須堅持下去。第三十一師師長池峰城的表態是：“台兒莊是吾人光榮所在，亦為吾人之墳墓。”同是這天早晨，日軍第十師團師團長磯谷廉介命令瀨谷啟：“應以主力迅速擊敗台兒莊附近之敵。”
台兒莊外的日軍開始攻擊了，隱藏在城裡的日軍也衝出來企圖擴大佔領，中國守軍與日軍的混戰一直持續到黃昏。日軍再次發動了新一輪的全面攻擊，危機於此時出現了：一股日軍衝入西北角，中國守軍傷亡殆儘後，日軍蜂擁登城奪取了西門。孫連仲急調一個團增援，增援部隊幾次反擊均未奏效，日軍切斷了台兒莊內外中國守軍的聯繫。第三十一師副師長王冠五，再次向池峰城師長請求率殘部撤退。池師長給孫連仲打電話請示，孫連仲在電話裡只說了一句：“台兒莊失守，軍法論處。”池師長對王冠五說：“總司令生氣了，堅決不讓撤。”王冠五指揮的守城部隊，僅剩了不到一半兵力，因此這一次他的態度十分強硬：“城是不能再守了，棄城的責任我一個人負，決不連累你！”池峰城聽到這句話，一口鮮血吐了出來。 ——池師長的痛苦在於：王冠五原本是一名參議，可以不上前沿打仗，但在指揮員越打越少的情況下，自己先是派他代理一八六團團長，後又任命他為副師長指揮莊內所有守軍，每一次王冠五都沒有過二話，現在自己如何給他下達難以完成的嚴令？但是，萬一王冠五不顧一切，真的率部放棄了台兒莊，不但第三十一師數天的血戰前功盡棄，自己也必要承擔軍法責任。此時，參謀主任屈伸猛地把電話奪過來，對著那邊的王冠五大喊：“冠五！台兒莊得失存亡，不僅關係到徐州的安危，對整個抗戰局勢都有很大影響。我們已經苦戰了十來天，犧牲了半數以上的官兵，才把鬼子頂住。如果我們放棄了台兒莊，不僅對不起死難的官兵，更對不起國家和人民，那就成了民族的罪人……總的一句話，台兒莊只能死拼不能撤。師部明天就撤入城內，決不會你們犧牲了我們活著回去！你聽著，我現在傳達師長的命令，台兒莊必須死守，誰再說放棄台兒莊，格殺勿論！”然後，屈伸轉身對防守台兒莊運河浮橋的乜旅長說：“從現在起，城裡的部隊無論是不是因公或負傷，只要擅自退回大橋者，上自旅團長下至兵由你先殺後報！”
電話那端傳來的最後一句話是：“請師長放心。”
王冠五，一條硬漢。
王冠五組織起一支由特務連七十二名官兵組成的敢死隊。敢死隊員短槍大刀，在逭擊砲的掩護下，向台兒莊西北角摸過去，他們要爬上寨牆上文昌閣，消滅那個居高臨下威脅整個西城的日軍火力支撐點。冒著日軍密集的機槍封鎖，敢死隊員疊起土囊，不顧生死地向上攀登，震天動地的吶喊聲令文昌閣上的日軍魂飛膽破。午夜時分，文昌閣上的日軍，除了被活捉的四人外，其餘全部死於敢死隊員的大刀下。 ——“我七十二壯士者，成烈士十四人。”
台兒莊派遣隊久攻不下，第六十三聯隊嚴重受阻，情報顯示湯恩伯的第二十軍團正向台兒莊靠近，那麼，進攻台兒莊的部隊很可能面臨被全殲的危險。日軍第二軍司令官西尾壽造，急令第五師團坂本支隊火速增援台兒莊，同時嚴令瀨谷支隊盡快攻克台兒莊。
三十一日清晨，日軍的砲擊前所未有地猛烈，二十多門大口徑野炮集中轟擊，猶如要“令台兒莊化為灰燼”。上午九時，大批日軍湧入莊內，中國守軍一八六團損失殆盡，一八五團奉命上前接替。在台兒莊外圍，第二十七師在劉家湖附近反復與日軍廝殺，那些配屬給他們的戰車防禦炮也全都投入了戰鬥。 ——“激戰至正午十二時，敵復以步騎炮聯合部隊約三四百名，戰車八輛，圍攻我郭團（一五九團團長郭金榮）守備之岔路口陣地。我官兵沉著抵抗，與敵死拼，斃敵甚重，敵仍猛進不退，遂發生肉搏戰，殺喊之聲撼動天地。時我戰車防禦炮將敵戰車擊毀三輛，突受敵重砲還擊，我戰車防禦炮兩門被擊毀。我傷亡官兵三百餘名。”
這天傍晚，台兒莊北門寨牆已坍塌成一片平地，無法封堵的巨大缺口使城外的日軍蜂擁而入。進入台兒莊的日軍沿著每一條街道與中國守軍肉搏。待天色完全黑下來時，一條條火舌向中國守軍席捲而來，日軍使用了火焰噴射器以掃清中國守軍的阻擊。台兒莊滿街都是中國守軍設置的障礙物，一處障礙物燃起大火，守軍官兵就退至另一處，他們投出的手榴彈下雨一般從日軍的頭頂上落下。至午夜時分，台兒莊全城都在燃燒，沖天的火光照亮了整個魯南天空。
第三十一師師長池峰城致電李宗仁，稱他的部隊正做“最後之攻擊”，若不能成功“即自殺以報國家”：
本師昨夜做最後之攻擊。官兵勇敢用命，冒最大犧牲，卒將城西北角盤踞之敵殲滅大半。殘敵仍據要點頑抗。我康副師長負傷，官兵傷亡三百餘。刻城內之敵除西北角少數外，東南半部仍為敵據。頃間，官兵百餘人義憤填胸，自報奮勇復仇殲寇，不成功即自殺以報國家，決不生還見我長官，悲壯激昂。師今夜為沈痛之格鬥。今午前敵炮仍在猛轟，寇機十一架狂炸西關，北站漸成焦土。
第二天，四月一日，台兒莊內無大戰。
交戰雙方都已精疲力竭。
那個名叫澀谷升的日軍士兵還活著：
上午六時火葬屍體，八時開始進攻，死傷者全部送至後方，下午佔領和尚寺一所，全員進駐該寺，準備明天戰鬥。敵機投彈於該寺附近，石倉君中彈重傷，重機關槍分隊長亦中迫擊砲而斃，第三分隊戰死三名，重傷一名。
短暫的寂靜中，台兒莊戰局開始顯現出對中國軍隊有利的態勢：包括湯恩伯的第二十軍團在內，中國軍隊的大批部隊正向台兒莊靠攏，包圍著台兒莊的日軍第十師團瀨谷支隊和第五師團坂本支隊，實際上在更大的範圍內已經處於中國軍隊的包圍中。
四月二日凌晨，台兒莊內外萬籟寂靜，在城外圍的東北角和西北角同時出現了中國官兵的身影。孫連仲命令第二十七師挑選敢死隊員二百五十人為前鋒，一個營在後面跟進，從台兒莊的東北角向莊內實施偷襲。孫連仲決定在所不惜，言如能衝進莊去賞大洋五千元；如能配合城裡的第三十一師把莊內的日軍肅清賞大洋兩萬元。數百名中國官兵悄然無聲地向台兒莊的東北角接近，然後突然一片吶喊向寨牆上猛爬。沒有準備的日軍猝不及防，反應過來時中國守軍的敢死隊員已經衝到跟前。戰至凌晨四時，佔據著台兒莊東北角寨牆的日軍被全部殲滅。敢死隊員們向東門和西北角方向發展，驚慌的日軍在黑暗中紛紛躲進民房和碉樓裡，中國官兵逐屋搜索後放火，將日軍壓縮至城的一角。
一個晚上的反擊成效明顯。天亮後，台兒莊的東門被中國軍隊打開，隨即南門也被收復，第三十一師和第二十七師取得了聯絡。 ——這是數天來，這兩支分別防禦莊內外的部隊第一次取得有效聯絡。但是，中國守軍尚未鞏固陣地，南下增援的日軍第十聯隊到達戰場，向莊外的第二十七師發起攻擊，企圖突破中國守軍防線向台兒莊靠攏。
中國陸軍第二集團軍第四十二軍第二十七師，三月二十四日從徐州以北的柳泉、賈汪抵達台兒莊戰場後，一直處於外圍防禦的血戰中。此前，沒有多少人熟悉這支雜牌部隊，僅知道這是原西北軍中的一群粗魯漢子。可是，自台兒莊作戰開始以來，這支部隊顯示出前所未有的英勇無畏。他們不分白天黑夜，在與台兒莊咫尺之遙的外圍陣地，沒完沒了地與日軍進行拉鋸戰，堅守，失守，反擊，再堅守，每一次戰鬥都出現巨大的傷亡，即使暫時沒有陣亡的官兵也是軍裝破爛，渾身血污，他們被日軍稱為“叫化子部隊”。但是，這些可以數日不睡覺，以至於連走路都東倒西歪的官兵，只要作戰命令一到，就能立刻又虎狼般地向日軍衝上去。他們的頑強作戰，極大的牽制和消耗了直接攻擊台兒莊的日軍兵力。
四月二日，瀨谷啟親自率第十聯隊主力到達台兒莊以東地區，但是橫在瀨谷啟前面的又是中國守軍第二十七師。
黃樵松師長告訴他的官兵，決不能讓增援日軍衝進台兒莊。
上午十時，日軍三百餘名步兵在十輛坦克的引導下向台兒莊開進，在彭村、上莊、陶溝橋等處與第二十七師第八十旅一五九團相撞。瀨谷啟立即派出兩翼部隊向一五九團陣地左右迂迴。而在相撞的正面，雙方激戰至中午，日軍“集中其野山炮數十門，向我陣地猛烈轟射，我潘墜、燕子井、彭村、石佛寺一帶，守兵與陣地共為灰燼，孟莊、裴莊、陶溝橋、五聖堂、五窯路、辛莊等處，均與敵發生血戰”。到了下午，第二十七師各陣地都陷入日軍的包圍，但官兵只要不死就不後退一步，以至於戰場上“殺聲震天地，煙塵蔽日，血雨橫飛，戰況之慘烈，不克名狀，雙方酣斗竟日未休”。
一九三八年四月二日，日本陸軍《步兵第十聯隊戰鬥詳報》：
研究敵二十七師第八〇旅自昨日以來之戰鬥精神，其決死勇戰的氣概，無愧于蔣介石的極大信任。憑藉散兵壕，全部守兵頑強抵抗到最後。宜哉，此敵於此狹窄的散兵壕內，重疊相枕，力戰而死之狀，雖為敵人，睹其壯烈亦將為之感嘆。曾使翻譯勸其投降，應者絕無。屍山血河，非獨日軍所特有。不識他人，徒自安於自我陶醉，為國軍計，更應以此為慎戒。本日（二日），我軍傷亡官兵六十六人，而敵棄屍不下二百五十具。
不知那些中國士兵的骸骨至今是否仍散落在大運河以北的廣闊田野上？
這片土地，血與淚，已成河。
鑑於日軍第十聯隊和坂本支隊都在向台兒莊地區推進，李宗仁認為圍殲日軍於台兒莊下的態勢已經基本形成。他將第七十五軍的第六師、第九十二軍的第十三師緊急調至岔河地區，同時命令臨沂方向的第五十七軍第一一一師第三三三旅向西推進到魯坊地區，統歸第二十軍團長湯恩伯指揮。晚八時，李宗仁下達了作戰命令：
一、敵第十師團及第五師團之一旅，自經臨沂、台兒莊諸戰鬥後，傷亡極大，現參加決戰之兵力，至多不過五個聯隊，附山炮野炮五十至六十門、重砲十門、戰車數十輛。其一部約一千人，在洪山鎮北方秋湖附近被我軍第二十軍團包圍，其主力向台兒莊東側陳瓦房、鳳凰橋一帶運動，續向第二集團軍右翼迂迴攻擊中。
濟南、大汶口、濟寧、滕縣間為第十師團之另一旅團分段守備中。
二、本戰區以迅速合圍加殲滅敵人之目的，決於明（三）日開始全線總攻擊，保持重點於第二十軍團之右翼，將敵包圍於台兒莊北側地區而殲滅之。
三、各兵團任務如下：
甲、第二十軍團以一部消滅洪山鎮北方之敵，以主力於三日保持東南正面，向台兒莊附近之敵左側背攻擊，逐次向左迂迴，務在台兒莊左側地區將敵捕捉殲滅之。攻擊開始時間，由該軍團自定。因戰況之進展，須隨時遮斷敵自嶧縣之退路，並對向城方面增援之敵嚴密警戒。
乙、第二集團軍右翼與第二十軍團聯繫，於三日全線攻擊，消滅台兒莊之敵；第一一〇師準備以一旅由萬里閘附近渡河，向北洛村附近敵之右側佯攻。
丙、第三集團軍前敵總司令曹福林指揮張測民支隊五個團及游擊總指揮李明揚所部，為堵擊兵團，迅速南下向棗莊、臨城合圍。
……
三日，被圍困在台兒莊內的日軍，獲悉第十聯隊和坂本支隊已到台兒莊以東地區後，開始了孤注一擲的反擊。他們用十餘門平射砲向第三十一師守軍陣地連續砲擊，日軍戰機同時向台兒莊內外狂轟濫炸，日軍步兵在隨後發起的衝鋒中使用了催淚性瓦斯毒氣。此時的第三十一師，沒有傷亡的官兵僅剩一千三百餘人，莊內的三分之二都已被日軍佔領，守軍僅在南關一隅苦苦支撐。池峰城師長認為，繼續苦撐下去，只有全軍覆沒，於是請示孫連仲，要求殘部向運河南岸轉移陣地。孫連仲難以抉擇，只有向李宗仁請示，話語說出來令人內心酸楚：“報告長官，第二集團軍已傷亡十分之七，敵人火力太猛，攻勢過猛，但是我們也把敵人消耗得差不多了。可否請長官答應，暫時撤退到運河南岸，好讓第二集團軍留點種子，也是長官的大恩大德！”李宗仁預計湯恩伯第二天即可到達台兒莊，如果此時讓第二集團軍放棄堅守，那麼之前中國軍隊在台兒莊內外的所有苦戰都將功虧一簣。鑑於此，他給孫連仲的答復是：“務必守至明天拂曉，如違抗命令，當軍法從事。”——李宗仁後來回憶說：“我向他下這樣嚴厲的命令，內心很覺難過。”他們過去沒有過交往，僅在第二集團軍調至第五戰區後，在徐州的戰區指揮部裡有過一面之交。孫連仲最後這樣回答了李宗仁：“絕對服從命令，整個集團軍打完為止。”
此時的第二集團軍，連預備隊都用光了。
當池峰城師長再次打來電話，詢問是否可以轉移陣地時，孫連仲的回答是：“士兵打完了，你就自己填上去；你填過了，我就來填進去。有誰敢退過運河，殺無赦！”
孫連仲，一八九三年生於河北雄縣。雖家境殷實，不必當兵，但他立志從軍，一九一二年入北洋軍第二鎮八標二營八連任學兵。北洋陸軍各鎮在清帝退位後改為師，孫連仲被選入馮玉祥部第十六混成旅砲兵營任班長。他身材魁梧，膽識過人，曾在護國戰爭中一人扛著二百多斤的山炮帶著他的部隊包抄對手後路。因作戰沉著勇敢，由營長、團長、師長、軍長一路升遷，至北伐戰爭時已是方面軍總指揮。盧溝橋事變爆發後，作為第二十六路軍總指揮，孫連仲要求他的官兵“報效國家、挽救危局，以盡軍人天職”。他率部奔走於北平南部、河北涿縣、山西娘子關戰場，及至奉命堅守台兒莊，孫連仲面對的是他投身行伍以來前所未有的嚴酷考驗。
孫連仲親自進入台兒莊內，在守軍苦撐著的東南一隅督戰。他把右翼作戰不利的一名旅長撤了，當眾槍斃了左翼一名貪生怕死的營長，然後開始組織敢死隊。當跟隨著孫連仲的軍需官把身上僅剩的大洋分給敢死隊員的時候，敢死隊員們把大洋扔在地上說：“我們以死相拼，為的是報效國家，不是為了幾塊大洋。”孫連仲見狀不禁放聲大哭。
先鋒敢死隊數百人，分組向敵逆襲，衝進敵陣。人自為戰，奮勇異常，部分官兵手持大刀，向敵斫殺，敵軍血戰經旬，已筋疲力盡，初不意至此最後五分鐘，我軍尚能乘夜出擊。敵軍倉皇應戰，亂做一團，血戰數日為敵佔領的台兒莊市街，竟為我一舉奪回四分之三，斃敵無算，敵軍退守北門，與我軍激戰通宵。
與此同時，在莊外防禦的第二十七師官兵也面臨著最後時刻。
三日一大早，日軍第十聯隊向第二十七師陣地發射了兩千餘發砲彈，陣地工事連同附近的村落皆被夷為平地。然後，在四十多輛坦克的掩護下，日軍步兵不顧一切地向台兒莊方向突擊。第二十七師連日血戰，傷亡慘重，能夠作戰的官兵已不足千人，致使日軍相繼衝入園上、孟莊、邵莊等村莊，第二十七師僅剩的官兵不得不用身軀與凶悍的日軍展開決死拼殺。在彭村防禦的是王景山營長指揮的營部和五連，當日軍衝進村莊時，王營長赤裸著上身對官兵們喊：“今天是本營長和全營殉職報國的最後一日，只有殺敵，不計生命！”官兵們跟著王營長死拼不退，及至全部戰死。王營長一人砍殺日軍十二人，最後身中數彈倒地。 ——“敵恨之刺骨，死後猶被敵亂刀肢解。”
三日晚，台兒莊內外中國守軍無不期待著湯恩伯部立即出現。
但是，直到四日，湯恩伯部隊依舊沒有抵達台兒莊。
凌晨，已經衣衫破爛的守軍守備連，把被日軍摧毀的莊內防線修復好。上午，日軍集中了三十餘門重砲向莊內轟擊，使用的全是燃燒彈，“時東南風甚大”，莊內再次燃起兇猛的大火，之前僅存的一幢建築物被徹底焚毀。大火中，日軍向東南角和北門同時發動進攻，但都被中國守軍擊退。第三十一師再次組織起兩百人的敢死隊，在重迫擊砲的掩護下向城隍廟反攻，裡面的日軍拼死抵抗，攻擊沒能成功。
這一天，在台兒莊以北的外圍線上，準備圍殲日軍的中國軍隊陸續抵達，湯恩伯的第十三軍第一一〇師向北洛、泥