这场决战，就是著名的黄桥决战。9月，韩德勤亲率26个团的兵力共30000余人，气势汹汹南下，叫嚣要将陈粟所率的江北新四军消灭在黄桥地区。党中央指示，陈毅撤至严徐庄掌握全局，粟裕担任黄桥决战的前线军事指挥。粟裕深知，这次决战不同于以往的游击战，而是一场大歼灭战。当时江北新四军总共三个纵队，7000多人，其中战斗人员仅有5000多人。为了制订打好这一仗的作战方案，粟裕一连几天没有合眼。10月4日，黄桥决战打响。在敌多我少的情况下，粟裕出其不意地用兵，采取“打蛇打七寸”的战术，将主力第1、第2纵队用于突击方向，隐蔽集结于黄桥西北面的顾高庄、黄港桥地区，待敌进犯时突然向敌发起攻击，以优势兵力首先歼敌精锐部队独立第6旅。经过三个多小时的鏖战，我军全歼敌独6旅。丧失了独6旅，韩德勤气急败坏地纠集兵力，对我军守地黄桥发起疯狂攻击。此时，粟裕当机立断，乘胜将我第1、第2纵队主力转兵用于对敌进攻黄桥之89军穿插、合围。5日凌晨，黄桥城东门被敌顽第33师突破。在黄桥保卫战万分危急的时刻，粟裕亲自率第3纵队往东门阻击敌人，一时士气大振，战士们奋起杀敌，终于击退敌人，夺回东门。战斗进行到5日夜，我第1、第2、第3纵队里应外合，并在赶来的援军配合下，一举歼敌1万余人，仅韩德勤带着1000余人逃往兴化。黄桥决战的胜利，创造了我军以少胜多的模范战例，为新四军在苏北建立抗日根据地开创了大好局面。
“皖南事变”后，党中央决定重建新四军军部，任命陈毅代理军长。2月，中央军委命令，将陇海路以南的八路军、新四军共90000余人统一编为七个师和一个独立旅。原苏北指挥部所属三个纵队编为新四军第1师，任命粟裕为师长。粟裕奉命率部挺进苏中，坚持敌后反顽、抗日斗争，建设苏中抗日根据地。这一时期，日伪相互勾结，对新四军不断发起大规模扫荡，粟裕率部奋起迎战。曹甸战役、石港攻坚战、七保三仓河、三保卫丰├……粉碎了敌伪一次又一次的大“扫荡”。1943年初，敌伪又在苏中掀起“清乡”的高潮，妄想运用军事、政治、文化、特务等毒辣手段，实行全面伪化，彻底摧毁我根据地。针对敌人的“清乡”，陈毅电示，苏中区党政机关要精兵简政，将后勤机关分散隐伏在群众中，主力部队则以分散作战为原则，伺机打击敌人的弱点。其时兼任苏中区党委书记的粟裕，遵照陈毅的指示，和同志们一起火速行动，做好应付一切严峻考验的准备。敌伪“清乡”开始后，在以粟裕等为代表的苏中区党委、苏中军区的领导下，全区人民群众紧密团结，采取各种灵活机动的游击战术，配合主力部队的行动，严厉打击“清乡”分子，取得了历时七个月的反“清乡”斗争的胜利。
1944年9月27日，党中央电示华中局，为了迎接反攻，苏浙皖地区应有新的发展……并要求华中局抽调一批干部、军队，渡江南进，完成上述任务。粟裕毛遂自荐，得到中央批准。12月中旬，粟裕和陶勇率领新四军第1师第3旅，分两路偷渡长江，突破京（宁）沪铁路上日伪的重重封锁，于1945年1月抵达浙西，与新四军第16旅会合。2月5日，苏浙军区成立。粟裕任司令员，统一指挥苏南、浙江部队，并以华中局代表的名义，领导江南、浙东两个区党委的工作。为了响应党中央的“扩大解放区，缩小沦陷区”的号召，有效地打开浙东南发展局面，粟裕率部在浙西进行的第一个军事行动，便是控制天目山地区。在挺进天目山的军事、政治行动中，粟裕率部打了三个漂亮的反顽歼灭战。第一仗便是新登战役。6月1日，我军以三个支队的兵力，一路突破顽军第79师设置的防线，直逼新登城下，同顽第79师经过一夜血战，我军于2日上午攻克新登城，打退顽军第79师组织的八次反扑，摧毁敌碉堡300余座，取得了攻坚歼顽2000多人的重大胜利。6月中旬，粟裕从新四军人力、物力的实际出发和战略发展的需要，毅然率部放弃新登，撤离天目山往孝丰以北转移。敌前敌总司令李觉以为新四军在新登战役中元气大伤，无力再战退却而去，便命令左、右两翼兵团分别从溪镇和新桥头出动，向孝丰开进。各部顽敌纷纷向李觉请命，都欲消灭我军好邀头功。粟裕决定将计就计，引诱担任敌左翼兵团的第52师孤军深入。第52师在皖南事变中，双手沾满了我敌后抗日将士的鲜血。仇人相见，分外眼红。我新四军将士群情激奋，斗志高涨，誓要敌人血债血还。6月19日，粟裕命令第1纵队、第3纵队和第4纵队共六个支队，转头对敌第52师发起猛攻，以迅雷不及掩耳之势，全歼顽军第52师。借着胜利的东风，粟裕挥师东向，以两万兵力将顽军第79师和两个突击总队共1万余人，包围在孝丰东南的草明山、白水湾至港口的狭小山谷中，经过三天三夜的激战，歼顽军6699人，击毙敌21名将校军官，取得了孝丰决战的辉煌战果。粟裕领导和指挥的天目山三次反顽战役，共歼敌人2万余人，缴获大量武器弹药等。后来，毛泽东曾多次称赞天目山战役打得好。
1945年8月15日，日本帝国主义宣布无条件投降。粟裕奉命率部北撤，回师苏北。10月，党中央任命粟裕为华中军区副司令兼华中野战军司令。解放战争打响后，粟裕奉命率华中野战军奔赴华中战场。遵照党中央、毛泽东制定的积极防御的战略方针，从7月13日至8月27日，在短短一个半月的时间里，粟裕率部以摧枯拉朽之势，横扫敌营，锐不可当，取得了苏中战役七战七捷的空前胜利，先后在宣泰、如南、海安、李堡、丁林（丁堰、林梓）、如黄、邵桥共歼敌六个旅和五个交警大队，计50000余人，史称七战七捷。苏中战役，也是中原突围后我军挫败蒋介石部队的第一个战役。当时延安总部发言人称，它和中原突围、定陶战役，“这三个胜利，对于整个解放区的南方战线起了扭转局面的重要作用。蒋军必败，我军必胜的局面是定下来了”。并称赞：“粟裕将军的历史，就是一部为民族与人民解放艰苦斗争的历史。今天，粟裕将军成了苏皖军民胜利的旗帜。”
1946年10月，粟裕通过认真分析华中、山东的战争形势，向中央军委慎重地提出了将华中和山东两大野战军会合的建议，并得到批准。粟裕遂遵命率华中野战军北上，在鲁南与山东野战军会合。不久，中央军委和毛泽东给陈毅来电，指出：陈毅率领的山东野战军和粟裕率领的华中野战军会合后，由陈毅统一领导，大政方针共同决定，战役指挥由粟裕负责。从此，粟裕担起华东战场指挥战役的重任。1947年1月，山东野战军和华中野战军正式合编为华东野战军，陈毅任司令员，粟裕任副司令员。这一时期，针对敌人“加强纵深，密集靠拢，稳扎稳打，逐步推进”的战术，粟裕对敌采取的战略战术可概括为：运动作战，谨慎决策；胆大心细，敌变我变；主动出击，以少胜多。从宿北战役到鲁南战役，从莱芜战役到孟良崮战役，在这一系列艰苦卓绝、气势磅礴的对敌大规模歼灭战中，我军共歼敌近20万人。彻底粉碎了蒋介石围歼我华东野战军、完成其“华东绥靖大业”的美梦。
这里尤其值得称道的是孟良崮战役。1947年上半年，随着人民解放军的节节胜利，国民党不得不把对解放区的“全面进攻”改为“重点进攻”。蒋介石的两大进攻重点便是山东和陕北。3月以来，蒋介石以24个军共45万人的兵力集结华东战场。其中蒋军“五大主力”中的“三大主力”都云集于此，妄图伺机全歼我华野部队。敌第74师，是蒋介石最精锐的部队、“五大主力”之一。这支敌军在抗日战争时期，曾在缅甸境内接受过美国顾问的特别训练，不仅有着丰富的战斗经验，而且全部都是美械装备。抗战胜利回国后，该师成为国民党政府陆军总部直属的南京卫戍御林军。该师中将师长张灵甫，老奸巨猾，曾多次同粟裕交战，也算是粟裕的老对手了。他多次叫嚣，要“活捉粟裕，亲手押往南京”。
在张灵甫的鼓动下，敌整编第74师邀功心切，脱离其汤恩伯所率兵团两翼，长驱直入，在坦埠附近形成孤军深入之势。陈毅和粟裕根据党中央、毛泽东制定的战略方针，作出分割、挖歼敌第74师的决定，以灭敌人之嚣张气焰，长我解放区军民士气。5月13日，战斗打响。粟裕调兵遣将，毅然采取猛虎掏心战术，以中央突破对中央突破，以五个纵队的兵力迅速对敌第74师形成包围；四个纵队待命外围，阻击敌人援军。当时，战场上形成这样一个险象环生的局面：敌第74师被我华野五个纵队围困在孟良崮山区；而敌人的30多万援军则又将我华野九个纵队包围得水泄不通。离孟良崮最近的敌援军仅仅只有10里。但在我华野四个纵队的顽强阻挡下，不管蒋介石和汤恩伯如何催促严令，敌人援军休想再往前开进一步。陈毅和粟裕清醒地意识到，此战关系到华东整个战局的转变，战斗必须速战速决，否则拖延时间，后果不堪设想。毛泽东和中央军委密切注视着这次战斗，毛泽东电示：“切忌贪多，力求歼灭整编第74师。”
