第4师的承担的主要任务是坚持豫皖苏边区阵地，抵抗反G军的进攻，不让其向津浦路东和陇海路北深入，并着重指出了政治上的斗争策略，军事上战略战术的运用，如万一不能坚持时，可退到皖东北地区。
1941年1月下旬，日军发起豫南战役，沿涡河西进。国民党军队败退，八路军四纵队西进收复失地。2月，日军突然撤回原防。国民党军队乘机对新四军四师发起进攻，新四军四师被迫进行自卫，展开了艰难困苦的三个月反顽斗争，就是历史上著名的豫皖苏边区自卫战。
1941 年初，继“皖南事变”之后，国民党顽军又疯狂地向“淮上”我新四军4师发动大举进攻。反顽斗争开始后，师部命令10旅以营为单位，分散活动于涡河以南，牵制、阻击顽军的进攻。
29团横扫顽军地方武装和歼灭顽军骑兵师正在架桥的工兵营，共杀伤俘敌 1000 余人。随后10旅与顽军主力九十二军和骑八师展开了激烈的战斗。.
29团于江口集、马家店子、半古店、罗集一带，虽然给顽军以重大杀伤，但自身也遭受严重的损失，一个半主力营拼掉了，我军一时陷于被动地位。
29团的前身，是陕北红二十六军，作战经验丰富，抗日战争开始时，参加过举世闻名的平型关大战，后又参与粉碎日寇的九路围攻，战功卓著，这次反顽斗争刚开始，就遭受如此重大损失，无疑对“淮上”抗日反顽斗争是有很大影响的。
张庆林早有准备，提前就和两个哥们打了招呼，很快三个营就聚拢在一起。
不久28团便接到旅部的通知，要28团迅速向旅部靠拢。
回到旅部后，团长带着张庆林等几个营长正准备向旅长、政委汇报呢，团长还未开口，旅长便急切地询问：
“你们那边情况怎样？”
团长说：
“我们团还未与顽军接触。”
旅长长舒了一口气，然后便将28团的损失情况告诉了28团的几个二领导，他说：
“29团1营在江口集被顽军的步兵和骑兵包围，多次打退顽军的进攻，予敌以重大杀伤，该营坚持到黄昏弹尽援绝，仅有少数人突围，其余的都壮烈牺牲了。
29团3营在半古店也损失两个连。”
旅长讲到这里，他的心情很沉重。此时10旅面临的形势十分严峻。旅长接着说：
“根据师首长指示，要我们旅主力迅速转移到涡河以北。旅直属队这一摊子，你们看怎样办？”
团长当即回答：“交给我们28团，我带28团掩护旅直属队于当夜渡过茨河向南转移，迷惑顽军，以利旅主力向涡河以北转移。”
旅长、政委一致同意了28团领导的建议，大家便分头行动了。
这个时候，28团分工，1营充当前锋，2营护卫旅直属队，3营负责后卫。
茨河的河面宽、水不深，但徒涉困难。
张庆林派出侦察员收集船只，结果只找到一条渔船，一次只能载渡 20 余人。