5月12日，日军第14师团南渡黄河以后，迅速以一部兵力前进到内黄集附近，截断了陇海铁路。这等于截断了中国军队向西撤退的后路。
5月13日，日军第13师团前进至徐州西南的永城，占据了徐州西南方向的有利地域，从西南面包围徐州。第9师团沿津浦铁路前进，攻占宿县。南线日军，攻占永城、宿县以后，从南面形成了对徐州的合围态势。
5月14日，日军第28旅团凭借化学武器和重炮的猛烈攻击，突破菏泽的外围阵地，把菏泽城四面围困起来。
防守菏泽，又是一场血战。
李必蕃指挥的第23师，有一支以工兵为主的骨干队伍，擅长防守，敢打硬仗。看到日军猛烈的进攻，李必善知道菏泽已经是一座孤城了，守城的决心更加坚定。他对官兵们说：“我们无论如何都要坚守阵地，绝不能后退，不能再让日本鬼子在中国的土地上狼奔豕突了。”
日军攻城的炮火越来越猛烈，排炮几乎没有间隙，接二连三地落在中国军队的阵地上。日本鬼子冲上来了。李必蕃师长一声令下，官兵们一齐向鬼子射击，机枪喷出了一条火龙，打得鬼子东倒西歪。
