当地土匪、反动道会在国民党顽固派的策动下，死灰复燃，乘机袭扰我军。
加之新开辟的根据地群众基础薄弱，又受白党正统观念的影响，不能积极支援我军，我军不得不逐渐向东转移。
为了摆脱困境，改变被动局面，使部队得以休整喘息，第10旅根据上级指示，疏散部队，于3月中旬跨过津浦路东，进入灵壁、泗县、五河之间的以天井湖为中心的地区，开辟新的根据地。
但该地区紧靠战略要地徐州，又处于浍河、沱河之间的水网地带，对来自北方的第10旅而言很不习惯，部队机动困难。以徐州为中心的日伪军不断出扰，土匪、反动道会活动甚为猖獗，没有群众工作基础，我军难以在此地区扎根。
第10旅又奉命于3月下旬返回津浦路西，在宿县以南怀远以北地区坚持，并狙击顽军东进。
此时顽军李仙州所部，在日军默许下继续东进，先后占领龙亢、河溜等地，伺机北犯。企图配合日伪军，消灭我军于津浦路西，或逼我军退到津浦路东。
4月15日获悉宿县日军南下扫荡，第10旅旅部转移至北淝河北岸赵老家一带。8时左右顽军两个步兵团、一个骑兵团由龙亢、包家集向我军进攻，受到28团2营8连的顽强阻击，打退敌人多次进攻，掩护旅机关向西北方向张巷子转移。
此时板桥、蕲县、湖沟等地日伪军也一齐出动，进至张巷子以西之顾庄丁庄一线配合顽军夹击我军，在张巷子与第10旅旅部遭遇。旅部组织机关干部和警卫连投入战斗，给敌人以打击后迅速撤出战斗，摆脱敌人包围。
正当我军处于十分不利的形势时，顽军142师425团全体官兵，对蒋介石消极抗战，大打反共内战的政策和国民党派遣特务对该部控制、欺压极为不满。该团团长我地下党员陈锐霆同志要求率部起义，减轻国民党顽固派对我军的进攻压力，增加皖北抗日力量。
经新四军军部同意，华中局批准，该团于1941年4月20日在团长陈锐霆同志率领下和182师两个炮兵连一个骑兵连，在蒙城之禇集起义。
28团奉命接应起义，于21日晚在小郭家一举歼灭顽军牛肃久部八百余人。此次战斗是第十旅在淮上反顽斗争多次失利的情况下，进行的一次胜利战斗。但总的形势依然对我军不利，第10旅于4月25日再次跨越津浦路，转移到皖东北地区。
起义的425团转移到津浦路东的泗县地区进行休整。由于没有及时清除国民党特务和不坚定分子，我军尚未来得及对起义部队进行必要的改造工作，该团在少数坏分子策动下，发动叛变，大部官兵被裹胁至津浦路西，陈锐霆同志也被叛变分子打伤。
1941年4月25日，华中局和新四军军部鉴于第4师的危急处境，并为照顾抗战大局，指示留一部分主力及地方武装坚持豫皖苏边区的游击战争，主力转入皖东北地区，巩固和扩大皖东北根据地。但由于形势的继续恶化，武装坚持已不可能，第4师不得不告别豫皖苏边区的广大群众，于五月份先后撤退至皖东北地区。
至此，艰苦创建的豫皖苏抗日民主根据地，除睢杞太以萧县的部分地区尚有党的组织和部分武装公开活动，永城等县党的组织转入地下活动外，其余全部丧失。
在三个月的反顽斗争中，豫皖苏边区的党政军民各机关部队共伤亡、失踪四千余人，撤到皖东北的不足万人，枪支不足五千支。
第10旅进入皖东北，奉命在洪泽湖周围地区坚持和开辟根据地。28团进到洪泽湖东岸的南新集、裴圩、陈集、高良涧一带活动。有一天部队进到高良涧，宽广浩淼的洪泽湖一眼望不到边，用宽大的条石砌成的高大湖堤，牢固地矗立湖边，把浩荡的湖水紧紧围住。湖中大大小小的船只扬帆而行，多种鸟类或在天空自由飞翔，或在湖中戏水觅食。
这是张庆林第一次看见这样美丽的湖光美景。
在前一段时间的战斗中，张庆林不幸负伤了，就进入医院治疗，同时负责警卫工作。
有一次张庆林奉命转移伤员，乘木船从成子湖中通过，正是盛夏季节，波浪滚滚的绿色湖水，从船下流过，湖水清澈见底，鱼儿成群结队在水中游过，绿色的水草在水底飘荡着。
北方人说不出这是什么鱼，什么草。撑船的老乡伸手在水中捞出三角形红色的东西，他告诉张庆林说：
“这是菱角，可以吃的”。
他用手把菱角皮扒开，把白色的菱角果实递给张庆林说：
“这东西又脆又甜，很好吃的，不信你尝尝看”。
张庆林试着一吃，哈哈，味道果真不错。这东西不仅可以解渴，还可以充饥。
于是张庆林就动员能动的伤员，动手捞菱角，以补充粮食之不足。到了湖边浅水的地方，张庆林又动员人下水摸小鱼，捉螃蟹，使大家痛痛快快地改善了一下伙食。
张庆林和其它伤员们住在一家小地主家，正逢下雨，雨下的很大很急，院子里积了不少水，张庆林一出门看见院内有好几条像蛇一样的东西在水里游。
张庆林还没有吭声呢，其它来自北方的伤员已经惊动了。
“蛇”，
他们高声大喊，急忙操起棍子乱打，青年干事朱潜也出来帮忙。
这个时候，房东老大娘站在门口大喊：
“别打，那不是蛇，是鳝鱼”。
说完她伸手卡住鳝鱼脖子，一下就拎起来了。张庆林和朱潜觉得都很不好意思。张庆林赶紧帮着解释说：
“不好意思，我们北方人，还是第一次看见这种鱼”。
大家哈哈一笑了之。后来政治处主任徐光同志听说此事，好把张庆林奚落一阵：
“真是土包子，一条鳝鱼也大惊小怪，真丢我们新四军的人”。
张庆林反驳说：
“徐主任，没有见过就是少见多怪，当年你们南方同志到我们山西，还不是把尿盆当成饭盆吗”？
