台儿庄是位于运河北岸开阔地面上的一个千余户人家的镇子，城墙单薄得找不住重炮轰炸，又没有自然险要可凭借，日军在飞机和大炮很快就将城墙炸出几个豁口，我军的工事也七零八落地不成体统，31师官兵们只好在废墟中构筑简易工事，抵挡着日军的冲击。
台儿3月24日晨，猛烈的爆炸声在台儿庄响起。日军集中所有火炮对我军防御正面阵地狂轰滥炸。濑谷旅团的福荣真平63联队在炮火掩护下率先向台儿庄东北城墙冲了过来。
庄之战从一开始就十分激烈、残酷。24日、25日，日军象一群疯子，轮番进攻。中国军队拼死抵抗。抢声、炮声响了两个昼夜。中日双方像两头斗红了眼的公牛，谁也不让谁。双方伤亡都很大。
26日清晨，日军退下去休整。战场静了下来，池峰城正要靠在椅子上睡一会，忽听副官报告说，孙总司令到了。
孙连仲将自己的集团军指挥部移到距台儿庄只有5公里的一个小村子里，一则便于指挥，二则为了显示自己与前线士兵们同生共死的气概。
孙连仲对池峰城说：“正面日军兵力已增至4万多，第10师团全数在此，更有坦克、飞机和大炮助战，你的压力不轻哟！”
池峰城心情有点沉重，声音有些沙哑：“大哥，你放心，为了打日本，死不足惜，可从大西北把弟兄们带出来不容易，再怎么说也得给这个队伍留下点种子，请大哥手下留情，别到时真的打得精光了。”
孙连仲瞪了池峰城一眼说：“这仗才刚刚开始，你不该讲这个话，台儿庄这一仗，非同寻常啊！你忘了，上海、南京失手，军委会处决了四十一个旅以上军官，韩复榘丢了山东，堂堂战区副司令不也让蒋介石崩了！你我兄弟只有克尽职守好自为之了。”
池峰城愤愤地说：“我池老三打仗怕不怕死大哥你还不知道吗？还不是为了弟兄们，还不是为了日后咱们还能回支老家去？甭说了，这回我守不住台儿庄就死在台儿庄，请大哥放心！”
孙连仲虽不计较池峰城这通没轻没重的话，却也心里窝火，正要回指挥所，刚出门便遇上几架日军飞机，日机仿佛早就看准了这里，连扫射带轰炸地俯冲过来，副官忙把孙连仲按倒在院内的一个防空掩体中。
敌机闹了一阵飞走了，孙连仲钻出掩体，抖落着浑身尘土回到刚才走出的那间师指挥所的屋子，抓起电话要到李宗仁那里说：“小日本的飞机整天在我头上嗡嗡，请李长官给我想想办法。”
李宗仁说：“我手里一门高炮也没有了，要不我马上请示武汉，给你调上两个团来？”
孙连仲说：“嗨，那还不早就晚三秋了！”听到李宗仁在电话那头沉默，孙连仲又说：“打不了天上的，能不能打地上的，动动飞机场的脑筋？”
经孙连仲提醒，李宗仁眼睛一亮，他立即让参谋长徐祖贻查明配合第十师团的日军空军的机场位置，徐祖贻发密电向武汉情报部队询问，3小时后武汉回电说日军在泰安附近的大汶口设立了一个临时机场，驻有寺包正三少将所率的第1飞行团中的4个飞行大队，负责支援保障台儿庄地区日军的作战。
李宗仁立即命令就近的孙桐萱第三军团派兵摧毁大汶口日军机场。孙桐萱在12军20师抽调800名精兵组成突袭队，带着烈性炸药，急行军一整夜，接近大汶口机场。
3月27日拂晓，突袭队分为两路，展开了战斗行动。一路是由500组成的火力队，由机场东侧向守敌发起突然袭击，接着是十几挺机枪封住逃跑的路线逐房清扫，日军岗哨发现来袭为时已晚，火力队官兵的动作迅速、勇猛，许多日军还没找到裤子就被打死在屋里，另一部分日军急忙组织抵抗，向我军还击，但仓皇之中情况不明，难以组织有效的防御，双方在微明的天色中混战不休。
第二路是由300人组成的爆炸队，在火力队与日军打响之后，他们乘守卫停机坪的日军的注意力被吸引过去，由机场西侧迅速冲入整整齐齐的停着40余架飞机的机场跑道一端，一部分士兵担任掩护，一部分则将炸药逐架飞机地绑好。不一会，爆炸声四起，许多只巨大的火球腾上天空，40余架飞机损伤大半，机场通讯、加油等设备被摧毁。
突袭大汶口机场一仗干净利落。战果辉煌，我军仅有极小伤亡，日军空军4个飞行大队中有两个干脆取消了番号，其余的也再无能力在台儿庄战场露面，我军就此除去这个“天灾”。
31师与日军激战到第4天，台儿庄内的房屋几乎全部被日军炮火夷为平地。3月27日晚，日军步兵以坦克为先导，由庄子西北角被炮弹炸出的缺口内冲入城区。担任该处城防的王冠五团官兵伤亡过半，但仍顽强地一街一屋地抗拒着敌人的攻势。
31师枪械落后，大部分官兵仍然配备着大刀，在这支部队中大刀被算为正式武器，并被列为军事训练的正式课目。此时许多士兵抡刀冲入敌阵，与鬼子展开白刃格斗。日军武器装备先进，远距离交战，他们占优势。若是论白刃战，中国兵的大刀片还真顶用。只是白光一晃，一个鬼子的头便被劈成两半。
第五战区长官部见敌矶谷师团主力已集中于台儿庄一带，围歼的时机已经成熟，李宗仁电令汤恩伯第20军团立即从所在的枣庄以东的兰陵、郭税集之间的傅山口、新兴、峨山地区南下，从北面对台儿之敌实施战役合围，与孙连仲第2集团军一起，围歼这4万日军。
第20军团所属的50军军长关麟征、85军军长王仲廉等将军纷纷向汤恩伯要求出战，痛痛快快地打个胜仗，但汤恩伯担心部队出动之后矶谷突然杀一个回马枪，与临沂附近的板垣师团一起反将他包围，所以不论上边压还是下边挤，就是不下出发命令。
战至3月29日，台儿庄城内形势对守军越来越严峻。城西王冠五团已所剩无几，池峰城不得已将守在城外的部队调入城中，充实一线阵地，这些部队常常是整营整边地阵亡，用当时的话说就是“填进去了”。当时在第二集团参谋处当处长的何章海事后回忆中讲到一件他印象很深的事情，有一天集团军指挥部把第30师的吴明林团调拨给池峰城指挥，该团齐装满员，在天黑时，跑步入城增援，第2天清晨，团长吴明淋浑身是血迹和灰尘，带着十几个同样狼狈不堪的官兵退出城来，向孙连仲报告作战之中全团苦战至覆没的经过。孙总司令只能一面安慰嘉奖他们，一面安排他们回后方整补。
3月30日，日军已由城西北角推至城内，攻占了台儿庄二分之一的地方。
矶谷廉介几昼夜没合眼，台儿庄打得虽苦，但毕竟取得了可见的战果，他将占领区域说成四分之三，电告西尾寿造总司令，总司令官又夸大一点，于是，第二天日本同盟社发布消息说：“华方最精锐部队已被击溃，皇军第10师团已将台儿庄全部占领。”
中方统帅部对台儿庄战局每两小时发一次战报，蒋介石派白崇禧和林蔚蹲在李宗仁的第五战区长官部督战。
最苦的还算孙连仲，就在台城告危、他手中已无可调之兵时，传来蒋介石直接发给他的急电：“台城关系至巨，故以第二集团军全力保守，即有一兵一卒亦须努力死拼。如失守，不但该军官司兵重惩，李长官、白副总长亦有处分。”
孙连仲没好气，立即厉声说道：“士兵打光了军官填，军官打光了你去填，你填过了我就来填，有敢退过运河者，杀无赦！”
这时正蹲在一个团指挥所督战的池峰城已是浑身多处挂彩，他大口咳嗽着，不时吐出一口口鲜血，他知道再说什么也没有用了，于是横下一条必死的决心。
他铁青着脸又抓起电话机，咬着牙下达了一道命令。命工兵连立即将撤过运河的唯一通道——军用浮桥炸掉，来个破釜沉舟。
四个浑黄的巨型水柱同时在浮桥下升时，接着是一声沉闷的爆炸。此刻在台儿庄作战的所有中国士兵都在无数枪炮声中听出了这声爆炸，都情不自禁地朝那个方向望了一眼。
结实宽敞的浮桥顷刻之间化为千万个碎片顺流而下，河面很快就变得空空荡荡。人们心中明白，退路断了，只剩下一条路，那就是和鬼子拼到底！
这天午夜，池峰城清点各部人数，31师伤亡十分之八，建制全乱了，士兵们只能从服装和眼神中辨认哪是自己人。池峰城望着一个个满身伤痕和尘土的士兵，士兵也望着他们浑身是伤的师长。
池峰城要通了孙连仲的电话，用嘶哑的声音说：“我的兵死亡了十分之八。我将浮桥也炸了，你不用担心我们逃走了。不过，小鬼子的电台播了，说台儿庄的中国军队都死光了。我们可不能让小鬼子的话应验啊！“
孙连仲在电话中说：“老弟放心，中国人死不绝的。我马上派一个敢死队进去，把小鬼子的五脏六腑全搅乱。”
“敢死队！谁？”
“冯安邦，该认识了吧！”
“山东大个！行，准叫小日本一夜哭爹叫娘的。行快派过来吧，趁天黑兜屁股来一家伙！”
冯安邦率领自动报名的200多名敢死队员，外加一个营，钻入了台儿庄腹地。敢死队员每人一刀一枪，身上挂满手榴弹。
冯安邦率领敢死队，分两路杀向敌群。一路是那个营，另一路便是冯安邦率领的敢死队。经过连日苦战，日军也十分疲惫，他们做梦也想不到，到了这种地步，城中守军还能组织起这么强有力的夜袭。
敢死队迅速摸到敌人在城中的临时营地，接着便是爆炸声隆隆，杀声冲天。日军从昏睡中惊醒，昏头转向，仓促迎战，陷于一片混乱，敢死队员勇猛地近战肉搏，抢起大刀冲入敌群，猛砍猛杀，所到之处，日军魂飞魄散，不敢抵挡，在混战之中死伤无计。
从午夜到天明，两支敢死队竟然消灭了400多名日军，夺回了城西、城北的大部分阵地，将多数日军赶出了城。
李宗仁和孙连仲啧啧称“奇迹”。
事后，孙连仲将两筐白花花的银元抬出来，对站在他面前的敢死队员说：“这是蒋委员长、李长官奖赏敢死队的，大家有功，现在平分了。以身殉国了的寄去他家里。弟兄们，我谢谢你们！”
有个老油子兵说话了：“长官，咱是为了杀鬼子才这么豁出去的，不是为了钱！长官，你把这玩艺儿收起吧，我们命都不要了，还要这干啥！”
冯安邦的这次夜袭，起到了很大的作用。敢死队将敌人的战车炸趴了窝，并且攻占了台儿庄东北的孟庄、裴庄、邵庄、彭材、沧浪庙、逼近日军溃逃。
冯安邦由于台儿庄会战作战央勇，指挥有方，并且毙掉日军大队长吉帜重治少佐，国民政府明令授予他青天白日勋章一枚。