第4师的承担的主要任务是坚持豫皖苏边区阵地，抵抗反G军的进攻，不让其向津浦路东和陇海路北深入，并着重指出了政治上的斗争策略，军事上战略战术的运用，如万一不能坚持时，可退到皖东北地区。
1941年1月下旬，日军发起豫南战役，沿涡河西进。国民党军队败退，八路军四纵队西进收复失地。2月，日军突然撤回原防。国民党军队乘机对新四军四师发起进攻，新四军四师被迫进行自卫，展开了艰难困苦的三个月反顽斗争，就是历史上著名的豫皖苏边区自卫战。
1941 年初，继“皖南事变”之后，国民党顽军又疯狂地向“淮上”我新四军4师发动大举进攻。反顽斗争开始后，师部命令10旅以营为单位，分散活动于涡河以南，牵制、阻击顽军的进攻。
29团横扫顽军地方武装和歼灭顽军骑兵师正在架桥的工兵营，共杀伤俘敌 1000 余人。随后10旅与顽军主力九十二军和骑八师展开了激烈的战斗。.
29团于江口集、马家店子、半古店、罗集一带，虽然给顽军以重大杀伤，但自身也遭受严重的损失，一个半主力营拼掉了，我军一时陷于被动地位。
29团的前身，是陕北红二十六军，作战经验丰富，抗日战争开始时，参加过举世闻名的平型关大战，后又参与粉碎日寇的九路围攻，战功卓著，这次反顽斗争刚开始，就遭受如此重大损失，无疑对“淮上”抗日反顽斗争是有很大影响的。
张庆林早有准备，提前就和两个哥们打了招呼，很快三个营就聚拢在一起。
不久28团便接到旅部的通知，要28团迅速向旅部靠拢。
回到旅部后，团长带着张庆林等几个营长正准备向旅长、政委汇报呢，团长还未开口，旅长便急切地询问：
“你们那边情况怎样？”
团长说：
“我们团还未与顽军接触。”
旅长长舒了一口气，然后便将28团的损失情况告诉了28团的几个二领导，他说：
“29团1营在江口集被顽军的步兵和骑兵包围，多次打退顽军的进攻，予敌以重大杀伤，该营坚持到黄昏弹尽援绝，仅有少数人突围，其余的都壮烈牺牲了。
29团3营在半古店也损失两个连。”
旅长讲到这里，他的心情很沉重。此时10旅面临的形势十分严峻。旅长接着说：
“根据师首长指示，要我们旅主力迅速转移到涡河以北。旅直属队这一摊子，你们看怎样办？”
团长当即回答：“交给我们28团，我带28团掩护旅直属队于当夜渡过茨河向南转移，迷惑顽军，以利旅主力向涡河以北转移。”
旅长、政委一致同意了28团领导的建议，大家便分头行动了。
这个时候，28团分工，1营充当前锋，2营护卫旅直属队，3营负责后卫。
茨河的河面宽、水不深，但徒涉困难。
张庆林派出侦察员收集船只，结果只找到一条渔船，一次只能载渡 20 余人。
张庆林立即就组织部队渡河，先派 1个加强班，带两挺轻机枪渡河，占领南岸村庄查明情况，封锁消息，然后组织1营、2营和旅直属队、3营依次陆续渡河。
只有一条船来回摆渡转运，直到天将拂晓才渡完。
这个时候侦察员向报告，村子南面 5 里多路镇子上，已被顽军骑兵 2000多人占领。
面临这突如其来的敌情， 28团的几位领导一起商量决定，立即组织防卫，并紧急动员全体人员，准备和敌人背水一战，坚持到黄昏后再突围。
这时，张庆林和另外2个营长跟随着旅团领导，一面查看村子周围地形，部署兵力火力、做好防卫工事；
一面做好村民工作，准备迎击顽军的进攻。
这一天，情况非常紧张，大家都知道面临着生死关头，只有“置之死地而后生”的一条路，谁也不敢松懈。
这个时候，张庆林无意之中，从老乡那里了解到我们驻地，距怀远县西北的日寇外围据点只有二三十里路，又查明茨河南岸内侧，有一条人行小道可以隐蔽行动。我
于是，旅团领导召集28团营连以上干部作了进一步的动员，号召大家从最坏处着想，决心与顽军拚死搏斗，绝不动摇。
领导们分析，日寇同顽军还有一定的矛盾，他们不致于公开勾结对付我军，因此我们可以利用他们之间的矛盾坚持到黄昏，便可以从河岸内侧的小道隐蔽进行转移。
因我军背靠茨河，顽军不可能对我形成四面包围。
张庆林捏着一把汗，紧张的看着手表时针，一直到下午 5 时才松了一口气。
黄昏后大家开始有组织地向预定方向村庄转移，于当晚 9 点钟左右顺利到达隐蔽集结地，命令部队迅速做好工事，吃过晚饭休息一夜，准备明日迎击日伪顽的夹击。
第二天拂晓后，张庆林带着作战、通信人员，蹲在村庄旁边一个小土堆上，用望远镜不断观察敌人动态。同时旅部也关闭了电台，以免被敌人发觉我军方位，与此同时作为前锋的张庆林派出侦察人员，寻找老乡迅速查明了这一带茨河水情，选好了渡河点。
这一天，我军几千人，位于日伪顽之间，情况非常紧张。
张庆林同教导员就地召集党小组长以上的同志开会，进行再次动员。张庆林说：
“现在是考验我们每个共产党员的时候到了，当日、顽一方或同时向我军进攻时，我们共产党员必须站在最前面，带头进行坚决抵抗，予敌以歼灭性打击。我们是共产党领导的抗日队伍，即使是牺牲了，为了中华民族的生存，为了保卫祖国的锦绣河山也是值得的。这叫作死得其所死的光荣，抗日战争胜利后，人民是不会忘记我们的。”
经过动员，大家情绪激昂，一致表表示坚决服从命令听指挥，决心战斗到最后一个人。教导员高兴地说：
“好了，大家有了这种精神，就是胜利。”
