日本宣布投降后,由于蒋介石命令日军不要向共产党八路军和新四军投降,使抗战后的政治、军事形势日趋复杂化。鉴于这种情况,鲁南军区根据朱德总司令的命令,按照中共中央山东分局、山东军区的指示,争取先机,趁国民党军队还没有到达枣庄之际,开展强大的政治攻势和军事攻势,强令日军无条件缴械投降,拒绝投降者就坚决消灭。
1945年10月初,盘踞在枣庄的1000余名日军由于拒绝向汉奸王继美缴械投降,逃到了齐村,被鲁南第三军分区包围。第三军分区司令员张岗、副司令员王献庭派敌工干部郭福周、赵提先等人去齐村与日军头目尔玉、龙泽寿等进行多次谈判,命令日军无条件投降。日军再三拖延,在一天夜里企图逃跑,第八师部队配合新四军进行追击,歼其大部。日军残部向西逃窜到滕县境内。滕县联防民兵将其围困在一条山沟里,鲁南军区特务连立即派武装进行增援,迫使日军缴械投降。
11月中旬,盘踞在临城的两个大队1000余名日军拒绝向国民党第十九集团军陈大庆部缴械,准备南逃徐州。临城的日军及其家属乘一辆铁甲列车于夜间开出,转移到沙沟附近时,看到前面的铁路已被鲁南铁道大队破坏,又试图退回临城。这时铁道大队把事先埋在铁轨底下的炸药拉响,日军的退路被截断。日军铁甲车在欲进不能、欲退无路的情况下,只好停滞于此。铁道大队在与日军多次交涉后,迫其同意缴械投降。
在韩庄战斗中,盘踞在韩庄的200余名日军于11月24日被新四军第二师第四旅围困在韩庄火车站,在军事打击与政治攻势下,全部缴械投降。
在官桥战斗中,盘踞在官桥车站的300余名日军于11月26日配合国民党一齐开火,第八师师长王麓水一边命令部队狠狠还击,一边安排政治部主任刘春向日军下最后通牒。日军撤出战场,在官桥火车站北面向第八师缴械投降。
对于放下武器的日军,包括滞留在铁路沿线的零散日军及其家属,八路军鲁南部队和新四军入鲁部队严格按照政策,在保证他们人身安全的同时,在他们遣返回国和食宿等方面都提供了很大的方便。
在滕县界河投降的日军