1940年春，中共中央作出八路军应派部队与新四军合力发展华中的部署，陈毅率新四军主力北上，八路军黄克诚率部南下，准备开辟苏北抗日根据地。
1940年10月，新四军取得黄桥决战的胜利，陈毅在盐城和黄克诚会师，成立华中新四军八路军总指挥部，叶挺任总指挥，陈毅任副总指挥并代理总指挥，中共中央中原局书记胡服(刘少奇)任政治委员，统一指挥陇海路以南、长江以北的新四军和八路军部队。
开辟巩固苏北根据地的是第3师兼苏北军区，黄克诚任师长兼军区司令。苏北根据地包括淮海、盐阜两个地区，分别建立军分区和行政公署。第3师由八路军第5纵队改编，改编初期两万余人。
此时的苏北大致上是第3师、黄桥决战中失败的国民党江苏省主席韩德勤的部属王光夏部队、日伪军三角格局，三方相互间都会有战斗、摩擦，东北军霍守义部队也南下到达苏北。而对新四军的主要威胁来自于日伪军的“扫荡”和韩德勤部队的摩擦。
1943年3月17日深夜，淮阴城门大开，大队的日军悄悄地列队出城。
这股鬼子是侵华日军的主力之一——川岛25师团，师团长叫川岛。行前，川岛说：“这一次一定要把共产党的首脑机关一网打尽。不是一网，不收兵；不打尽，不收兵！”
原来，他要去合围“破击”新四军的首脑机关所在地。这次，川岛集中了淮海敌占区所有的日军，一共3000多人，100多门火炮。25师团杀气腾腾向六塘河逼进。六塘河是日军合围的中心，情况十分紧急！
新四军7旅披星戴月急行军，终于抢赶在日军前到达了川岛北犯的必经之路——刘老庄。
刘老庄是苏北平原上的一个普通村庄，人不过百户，地不足百亩，距淮阴城50多里，紧靠淮沭公路右侧，地理位置十分重要。为了主力掩护党政军领导机关和群众的安全转移，19团团长胡炳云只安排一个连的兵力在刘老庄一线展开阻击战斗，迟滞日军的行动。4连受命承担这个艰巨的阻击任务。
4连连长叫白思才，指导员叫李云鹏。
3月18日，东方刚刚露出一线曙光，川岛就赶早率领大部队行动。鬼子兵的尖兵连走在最前面，后面跟着大队人马，其中，川岛带来的高级指挥官就有三四十人，他们个个骑着高头大马，身跨东洋刀。
日军来势凶猛，站在村头的哨兵来不及跑步报告，只得鸣枪报警。不到几分钟，日军就急速地进入4连的伏击圈，双方相距五六十米时，白思才纵身跃起，手中的重机枪首先发出怒吼，全连的火力一起猛射，鬼子的尖兵成片倒下，后续部队半天回不过神来，丢下几十具尸体，各自逃之夭夭。4连无一伤亡。
川岛这次是亲自出征，一见尖兵被打死，恼羞成怒，立即用东洋话大喊：“各路人马包围刘老庄。”日军3000多人马上从四面向刘老庄迂回，形成了包围圈。
4连总共才82人，且弹药又不多。面对强敌，白思才果断地说：
“撤出刘老庄。”
然后，他们在村北面一片开阔地带的“抗日沟”里选择位置进行固守，阻止日军前进。但是，他们仍处在日军的包围之中。
上午9时左右，川岛发起了第一次冲锋，可是，鬼子在前进没到30米远时，就被4连猛烈的火力打了回去。
第一次冲锋失败后，川岛把指挥所移到了刘老庄东头，命令：“把机枪架在房顶上！”