先前在右翼板垣的第五師團部隊，敗退到莒縣，在得到酒井旅團的支援後，正準備向臨沂進行反攻，同時由於李宗仁低估了日軍在右翼的威脅，突在三月二十日，抽調張自忠部向西支援台兒莊戰鬥。當張自忠部隊剛剛調走，日軍的板垣就立刻反撲臨沂，差點將華軍陣地擊潰，張自忠只有發揮指揮官在戰場的獨斷指揮判斷，直接向軍委會請示，而又將部隊緊急回防臨沂。中日雙方的軍隊正在臨沂打成難解難分之際，另外一支日本的援軍坂本支隊甶青島趕到，板垣認爲這是報仇良機，準備在臨沂大破張自忠部。
但是磯谷低估了孫連仲部作戰的韌性。第二集團軍從盧溝橋事變之後奉命馳援華北戰場，在與日軍幾次的大型接戰之中，都表現得可圈可點，在攻擊上，孫連仲的第二集團軍是一支戰力旺盛的隊伍，在陣地防守上，更是會進行決死抵抗的部隊。因此李宗仁要求孫連仲部在台兒莊附近佈下袋形的防禦陣地，以吸引日軍的攻勢，然後下令裝備與火力較佳的湯恩伯第二十軍團，在外圍進行運動戰，當日軍的攻勢在台兒莊受到阻擋之後，立即設法由外線進行包圍，攻擊hetubook.com.com日軍的背側，形成以內外夾攻的方式圍殲日軍。
正當中日兩軍在台兒莊進行陣地爭奪的殊死戰之時，在台兒莊北部外圍的戰線上，就是湯恩伯部伺機而動的機會了，他眼見磯谷把日軍一波波地投入台兒莊戰場，剛好是李宗仁所期待的口袋戰術運作。湯恩伯的部隊就是負責收緊口袋，切斷日軍補給線的主力，只要日軍補給線一旦遭到切斷，所有在台兒莊作戰的華軍，立刻就會蜂湧而出地進行裡外合擊，準備把日軍予以圍殲。三月二十八日，湯恩伯下令部隊開始對深入台兒莊的日軍，進行合圍。
直到這時候，磯谷廉介才大驚失色地發現，自己的部隊，已經深陷華軍的包圍之中，在台兒莊附近的陣地，華軍攻勢異常地勇猛，日軍部隊已遭華軍的分割攻擊，情況對於日方非常的不妙。在這種危急的狀況下，磯谷只有向華北方面軍發出求救的電文，華北方面軍是絕對沒有想到南攻的日軍，在大膽越過禁制線之後，無論是左右兩翼的部隊，竟然雙雙地都遭到敗仗的打擊。而日軍大本營更是對於華北方面軍不聽號令，深入華軍和圖書陣地，遭到包圍而感到震怒，但是卻不得不追認事實，要設法支持深入華軍陣地的日軍。
這時候李宗仁也大感意外，不知湯恩伯爲什麼沒有頂住日軍的增援部隊，而讓在台兒莊的華軍受到極大的打擊，因此他急得親自找蔣介石，要湯恩伯部立刻再投人戰鬥。蔣介石也了解戰局變化的嚴重性，假如孫連仲部的陣地被日軍擊潰，使得日軍攻克台兒莊，那麼第五戰區的整個局勢將會一敗塗地。因此他立刻親自以電話找到湯恩伯，叫湯部立刻投人戰鬥。這時候湯恩伯的部隊，已經在日軍的後側方，掌握到攻擊的優勢，在蔣介石親自的嚴令之下，湯立刻下令部隊分成三路，開始猛攻日軍，這時候支援台兒莊的日軍才發現，原來自己又落入華軍的再包圍之中。
由於白崇禧素以軍事謀略著稱，與李宗仁義結金蘭，李宗仁對他是言聽計從，白崇禧更曾是蔣介石北伐時的參謀長，幾次的指揮作戰，都建有奇功，因此有「小諸葛」的美譽，此時蔣介石看到戰場的需要，因此特別留白崇禧在第五戰區，襄助李宗仁指揮作戰，這使得李宗仁更是如虎添翼，士氣與信心大振。
四月六日，坂本支隊發現情勢對自己極端的不利，爲了避免自己的部隊遭到華軍的圍殲，因此立刻決斷地獨自向北撤退，而在台兒莊指揮作戰的日軍旅團長瀬谷啓少將眼見日本援軍突然後撤，而華軍又再度合圍，知道假如日軍再戀戰下去，恐怕會全軍覆沒，因此只有當機立斷，燒毀日軍所有的重裝備與補給，然後全力突圍而逃。而李宗仁在四月七日下令所有參戰的華軍，掌握日軍潰退的戰機，全力反擊掃蕩。一時之間在整個魯南地區，華軍是四面合擊，日軍是拼命地奔逃，日軍死亡的人數超過一萬六千人，是日本皇軍自明治維新成軍以來，在戰場上最大的一場敗仗。和*圖*書
這時過度自信的日軍，卻對於華軍在台兒莊的佈陣，缺乏真正的情報掌握，還以爲只要日軍運用優勢火力狠打，華軍就會潰敗。蔣介石特別將剛剛到手的一五五公釐巨砲以及反坦克砲，運到台兒莊前線作戰，甚至出動空軍，炸射日軍——數量當然極其有ｍ.ｈetuboｏｋ•com•coｍ限，巨砲只有九門而已，飛機也只出動了幾個架次——但是這對於華軍而言，幫助實在極大，因爲華軍面對日軍優勢的火力與坦克的打擊，幾乎是束手無策的挨打，現在華軍有了可以讓日軍遭到壓制的火力，士氣大振，華軍先後擊毀日軍幾十輛攻堅的坦克，因此得以守住台兒莊的陣地。
當時孫連仲在台兒莊的口袋陣地的佈署，是以三十一師池峰城部，防守台兒莊主陣地，三十師與一一〇師在台兒莊以西、二七師與獨立四十四旅在台兒莊以東，分別建立陣地。這樣日軍一旦攻入台兒莊，就會陷入華軍的口袋陣地之中。此時，蔣介石也充分地掌握到這埸作戰的重要性，於三月二十七日，親自率領軍委會副總參謀長白崇禧與高級參謀林蔚等將領，前往徐州視察戰局，並且設法調動所有能夠動用的中國部隊，前往徐州的第五戰區增援，準備給予孤軍深入魯南的日軍，一個重大的打擊。
但是這時在左翼磯谷第十師團已經面臨被圍殲的危機，因此日本華北方面軍越級直接指揮坂本支隊，命其不得投入臨沂作戰，立刻要以全速向西轉進，以解救磯谷的部隊，板垣力爭無效，三月二十九日，和_圖_書坂本支隊奉令以急行軍方式脫離臨沂陣地而向西轉，經向城朝台兒莊陣地急攻，日軍一下子就衝到湯恩伯部的側背，這下子差點把湯恩伯部給反包圍起來。因此湯恩伯當機立斷地重新打開口袋，命令五十二軍向東移動，讓坂本支隊進入台兒莊戰場。由於坂本支隊奉十萬火急的軍命救援磯谷，沒有注意到湯恩伯部的移動，以爲自己已經解除了磯谷部受困的危機。受困的日軍在得到支援之後，立刻發動逆襲，台兒莊各處陣地都遭到日軍強烈的反攻，孫連仲部陷入苦戰之中。
台兒莊的血戰，從一九三八年的三月二十五日，日軍第十師團進攻到台兒莊陣地，進行到四月七日，日軍整個潰敗退出台兒莊，總共是十三天十二夜的血戰。中、日兩軍在台兒莊及附近的陣地之中，進行多重包圍與反包圍的廝殺，在台兒莊內，更是到了逐街、逐房、逐門、逐窗的戰鬥，日軍幾度增援，曾經控制了台兒莊四分之三的地區，並且一度準備渡過運河，衝向徐州，但是華軍拼死不退，孫連仲將軍親自下令守城的部隊，即使全員戰死，也絕對不能撤退。同時他也將司令部移往前線，表示必要時自己與司令部也將投入戰場作戰。