鲁南战役第一阶段战役胜利后，野指决定乘胜扩大战果，发起第二阶段作战，攻取峄县、枣庄。以右纵队的第八师、九师、四师的一个团和滨海警备旅按计划攻取峄县；左纵队华中野战军第一师攻击驻枣庄的国民党军第51师。

                解放军在进攻峄县城的战斗打响之前进行战前动员

1947年1月9日晚，右纵队发起峄县城战斗。鲁中军区第四师十团、第九师扫清外围后由东、西两面攻城；第八师扫清外围后从南门攻城。第八师炸开了重重堵塞的南门，战士们涌入城内后沿南北大街向北直冲国民党军第26师师部鲍家大院。此时，鲁中部队也由城东门突入，与第八师协同作战。战至11日凌晨2时左右，城内国民党军基本被全歼，就连在围歼国民党军第26师与第一快速纵队时逃到峄县城的7辆坦克也被缴获。身着士兵服装的第26师师长马励武和上校副参谋长牛犇被活捉。

在发起峄县城战斗的同时，左纵队华中野战军第一师向枣庄发起进攻。1947年1月12日，左纵队一师扫清外围阵地后，歼其一部，完成了对枣庄、齐村、郭里集的包围。后调山东野战军第一纵队第一旅接替包围齐村的第一师攻打齐村，于16日拂晓前将驻齐村的国民党军第51师3000余人全部解决。同时，第一师一部埋伏于官地附近，消灭了由枣庄东部的郭里集向枣庄突围的国民党军第51师第114旅第342团。为迅速攻取枣庄，山野第一纵队派两个团、第八师派一个团协助华中野战军第一师攻打枣庄。这时，国民党第51师开始从枣庄外围据点收缩，攻城部队乘势集中火力发起攻击，占领了田庄、雷村、石猴岭、石灰窑等地。19日晚发起总攻，第一师各部相继突入城内。战斗持续至20日下午1时，全歼整编第51师师部与两个团，生俘师长周毓英及部下8000余人。至此，鲁南战役胜利结束。

1月21日，毛泽东以中央军委的名义致电陈毅、粟裕、谭震林：“枣庄攻克，第五十一师全歼，甚好甚慰。望对有功将士予以嘉奖。”鲁南战役中，人民军队以伤亡8000余人的代价，歼敌5.3万余人，开创了人民军队在一个战役中歼灭国民党两个整编师五个旅和一个快速纵队的先例，是解放战争时期山东战场上的第一次大捷。