全面内战爆发后，中央军委和毛泽东给“华中、山东和太行”三大主力的任务是南下外线作战。陈毅对此积极贯彻，于1946年7 月，陈毅自己亲率山东野战军主力南下淮北作战，并力图求得与刘邓大军（晋冀鲁豫野战军）配合。山东野战军南下的对手是徐州绥靖公署主任薛岳指挥的几十万国民党大军，薛岳本人也是国民党军中少有的几个名噪中外的将领。
徐州绥靖公署是国民党军最大的战略区，徐州绥靖公署的主任当然要委派国民党军高级将领中的佼佼者。1946年5 月，蒋介石下达了对薛岳徐州绥靖公署主任的任命。薛岳是何许人也？
薛岳，字伯陵，1896年生于广东乐昌，是一位科班出身的将领，保定陆军军官学校毕业。国共合作的北伐时期，曾任国民党军第1 军第1 师副师长，是蒋介石的嫡系。1927年北伐战争打到上海后，当时还算有良心的薛岳，因与白崇禧在镇压上海人民纠察队一事上，意见相左，愤然出走，脱离国民党中央军阵营的时间达6 年之久。1933年，薛岳被陈诚保举由蒋介石任命为国民党军第五次“围剿”中央红军北路军的总指挥。1934年夏，薛岳率部攻占中央革命根据地的兴国、古龙岗地区。红军长征后，又被委任为“追剿军”前敌总指挥，一路尾追中央红军于湘、黔、滇等省。薛岳指挥下的国民党军曾在湘江以东连设四道封锁线，迫使中央红军血战湘江，为蒋介石“剿共”内战出过死力、立过战功。因此深受蒋介石器重。
解放战争爆发前夕，蒋介石派薛岳为国民党军最大的重兵集团——徐州绥靖公署主任，指挥国民党苏鲁地区的部队与陈毅、粟裕率领下的华东人民军队作战。后因在宿北、鲁南连遭败绩，于1947年3 月被免职，从此再未获蒋介石的重用。蒋介石兵败大陆选去台湾后，薛岳被任命为海南岛防卫司令，人民解放军解放海南岛后，薛岳撤退至台湾，直到病逝，没有再任什么显要的职务。
薛岳虽为蒋介石东征西战，也算是一个“战功卓著”的将领，可就是因为遇到了陈毅这个强硬的对手，才使薛岳丢了官。客观地讲，薛岳当时在与陈毅的较量中，也是十分卖力的，失败的原因可能不在薛岳本身而在他的主子蒋介石所发动的这场战争的性质。
1946年7 月中旬，薛岳令属下近50万国民党大军，分多路同时进攻淮北。淮南、苏中、鲁南解放区，其中以淮北为主要方向。
7 月14日，薛岳直接指挥第7 军及整编第69、第28、第57、第58师共5 个整编师12个旅的兵力，分左中右3 路由津浦路南段徐（州）、蚌（埠）段向东进犯，企图“以确保京沪津浦长江之交通，而达到护卫南京首都的目的”。
薛岳此次亲率大军进攻，真是雄心勃勃。他在下达的作战命令中写道：“决先肃清津浦南段铁路两侧地区的共匪，以利而后进剿”。
薛岳的进攻部署是：右路“第7 军以一部守备津浦路南段宿县（不含）至东葛镇间交通，其主力以一部由曹志集向袁宗集、双沟堡、五河县进剿；一部由固镇、沦河，向灵见泅县进剿，确实占领五河、泅县、灵壁，迅速肃清蚌埠、固镇以东、五河、泅县以西地区之匪，准备第二期之进剿”。中路“整编第69师（欠99旅）以1 个旅由夹沟集向黄山、丘家集。渔沟集进剿；以1 个旅由阅贤集向梁庄、朝阳集进剿，先肃清阂贤集、符离集以东渔沟集以西地区之匪，而后向服宁。宿迁进剿；整编第58师以新10旅由蒙城自南而北，向潍溪口进剿；‘另以1 个团由符离集自东而西向滩溪口进剿肃清宿县、永城、萧县地区之共匪后，再向萧县以西、黄口以南进剿。”左路：“整编第28师（欠80旅）附整编第57师之预3 旅，以预3 旅为主力，由徐州附近向房村、双沟进剿，一部向赵圩子。驴马集进剿，迅速肃清该地区乏匪；整编第28师由徐州附近沿陇海路东进，以1 个旅向单集、曹八集进剿，l 个旅向小塔山集进剿，确实占领单集、曹八集，迅速肃清该地区之匪，准备第二期进剿。”
就在此时，粟裕和谭震林指挥下的华中野战军，已在苏中地区与国民党军打起来了。华中军区领导张鼎丞、邓子恢、粟裕、谭震林曾致电中央军委和陈毅，建议陈毅率山东野战军与晋冀鲁豫刘伯承、邓小平野战军按原计划南下，以策应苏中和中原解放区。
为执行毛泽东的南线三军配合作战的计划，陈毅综合考虑了当前敌情和苏中战局的发展，决定率山东野战军主力南下淮北作战。他在1946年7 月18日致邓子恢、谭震林、粟裕、张鼎丞、黎玉、中共中央、刘伯承、邓小平电报里说：“徐州之敌日内可能东进打通徐海段，在这种情况下，山东野战军在战局上应负责打四仗。一打徐州东进之国民党军第28军、第29军；二打东进维宁国民党军第99军、第8 军；三打进犯灵、涸的国民党军第7 军；四打切断津浦路南段铁路之仗。”“这个步骤究应以何为先，应看清敌情及自己部队集中后才能下决心。”
毛泽东接到华中军区和陈毅分别来电后，立即与陈毅、宋时轮和刘伯承、邓小平协商，同意山东野战军和晋冀鲁豫野战军两军仍按照原计划南下作战，并于7 月19日致电陈毅、宋时轮、刘伯承、邓小平：“徐州附近之作战关系全局，如打得好，歼灭蒋军东进主力，则我军可以南打九十九及五十八等军，可以切断徐蚌路，配合刘邓大军发展新局面，杂牌军亦可能起来反对内战；如打得不好。则苏中、淮北将处于困难地位。因此你们必须等候八十八师、二十八师出来并进至有利我们之地点，然后集中全力歼灭一个师，得手后再歼第二个师。此两个师解决，则全局胜利。你们意见如何？”
从电报的字里行间，会发现毛泽东的意图是，放手让徐州绥靖公署薛岳部东进，进至有利于解放军歼击之地点，然后集中优势兵力全力歼灭1 个师，得手后再转兵歼其第2 个师。
陈毅和宋时轮决心以少数兵力牵制国民党军中路军和右路军，而以主力歼灭位置最突出的左路军——国民党军整编第28师、整编第57师各两个旅，并把战役决定上报中共中央军委并通知友邻部队，同时下令部队开始向作战地域集结。
毛泽东接到陈毅和宋时轮的电报后，立即同意了陈毅的作战方案，但因担心陈毅当面之敌过于集中，搞得不好打不成歼灭战，因此于19日致电刘邓，要求他们必须采取一定的作战行动，牵制徐州国民党军东进的决心，配合陈毅、宋时轮外线出击作战。毛泽东说：“（一）陈宋20日午来电称，敌8 个团由徐州沿陇海线东进，我军决心歼灭该敌，战斗可能于23日或24日开始，胜利后向南歼灭58及99军等部，然后截断徐蚌路。（二）估计陈宋第一个战役可能于数日内结束，第二个战役可能于月底开始，我刘邓军来不及配合第一个战役，但是可能与必须配合第二个战役。因此，提议刘邓军日内即开始运动，28日前或29日前到达攻击准备位置，于30日或31日动手夺取汴徐线，而后依情况向南发展、夺取豫东、淮北诸县。（三）请刘邓考虑上述提议是否适当，如同意，请即部署行动，并盼复。”
陈毅接到中央的电示后，于7 月20日率山东野战军主力自鲁南隐蔽南下进入淮北地区。当时正值雨季，淮河两岸大雨倾盆，连日不断，部队冒雨涉水，异常艰难，这意味着陈毅南下作战将会是困难重重。7 月25日，陈毅率主力越过陇海路进入淮北。
一幅异样的泽国景象摆在陈毅、宋时轮等人的面前。其情景正如陈毅在给华东局和中共中央军委报告所描述的那样：“到处一片汪洋，每夜部队只能走20公里至30公里，榴弹遭水渗后即不能用，部队在泥潭中行进特别疲劳，伤病员增长多，国民党军驻扎之村落即沟深水满，不好突击。”这种天候条件，对装备简陋的山东野战军作战，非常不利。
尽管如此，山东野战军仍保持着高昂的战斗士气，陈毅向中央军委和毛泽东表示：苏中国民党军锐气已颓，淮南、淮北国民党军气焰正旺，他们“决心在淮北打一、二次胜仗，以改变局势。”
正当陈毅率部队向国民党军左路军接近时，国民党军中路整编第69师之第60旅、第92旅进到了朝阳集、渔沟地区，与左路兵团取齐，继而第6 旅向左靠拢，而使第92旅的地位更加孤立突出。
陈毅发现这是歼灭国民党军的天赐良机，即令山东野战军第2 纵队、第9 纵队、第20旅共计13个团的兵力，攻击朝阳集、渔沟地区的国民党军第92旅，同时准备在运动中歼灭向南可能增援的国民党军第d 旅，而后再打左路国民党军。
朝阳集战役的具体部署是，第2 纵队司令员韦国清两个旅担任主攻朝阳集，另一个旅担任打援，第9 纵队4 个团进攻渔沟及附近地区。于是，就有了陈毅南线出击以来的第一个胜仗，即朝阳集大捷。
战斗于7 月27日凌晨打响，经两昼夜激烈战斗，一举歼灭国民党军第92旅全部、第ho旅一部共sop 余人，收复朝阳集、时村，直逼夹沟。薛岳策划的三路进攻，就这样被陈毅打掉了一路，顿挫了国民党军的锐气。
这一仗陈毅在指挥上坚决贯彻了毛泽东关于“集中优势兵力各个歼灭敌人”的作战原则，因而以较小的伤亡代价，取得了山东野战军自解放战争开战以来第一个歼灭战的胜利，使转战外线的全军倍受鼓舞。而陈老总更是双喜临门，不仅指挥所属部队打了个大胜仗，而且常年随他转战的妻子张茜又为他生了一个儿子。为了纪念这首战大捷，便为爱子取名“小鲁”。
朝阳集战役后，蒋介石一方面开始整顿徐州绥署，提高士气，并以整编第69师师长梁汉明指挥不力，坐视第92旅陷入苦战被歼的罪名，不仅撤销其师长职务，而且下令南京军事法庭进行调查。另一方面迅速调集最精锐的部队，向陈毅率领的山东野战军发动更大规模的进攻。
就在陈毅和粟裕在淮北的朝阳集和苏中的海安取得重大胜利的时候，蒋介石以“国军”精锐“五大主力”中第5 军、整编第74师两大主力，以及新桂系第7 军一部，分路向津浦路东地区进攻。
这三支部队，有两支是蒋介石的王牌军，一支是新桂系集团的铁军。其中第5 军原是由杜幸明统率的，在抗战时期连续两次进缅作战，全系美式装备，作战能力很强，气势也很旺。整编第74师的师长张灵市更是年轻气盛，是参加过抗战胜利大阅兵的王牌，是蒋介石的铁杆部队。桂系的第7 军，自李宗仁、白崇禧重建桂系以来就不曾改过番号，是一支老宇号的桂系军，被誉为“铁军”，也是李宗仁、白崇禧所以能在国民党蒋介石中央集团中长期稳居高层的最重要砝码。第7 军的战斗力要比一般国民党军强些，与第5 军和整编第74师也差不了多少。
在这三支国民党军“精锐”部队的联合进攻下，淮南解放区陷落。坚持斗争的地方部队，未能给国民党军以打击，于7 月29日被迫撤离淮南解放区，只留小股部队开展游击战争。
薛岳见状，下令各路兵马实施快速进攻。7 月28日至30日，国民党军先后侵占了灵壁、泅县及五河，并立即实施“清剿”
由于国民党军密集靠拢，8 个旅缩成一团，紧靠一起，距离徐州总部不到40公里，彼此间也不足20公里，就像一个刺猥，使陈毅的山东野战军无从下手。
在外线作战十分困难和敌情已发生重大变化的情况下，山东野战军本应按野战军司令部建议，先集中兵力攻歼位于陇海线上的国民党军整编第28师及预第3 旅。
陈毅出于全局考虑，为了策应刘邓大军向豫东出击计划，决心歼灭从未与之交过手的国民党军桂系部队——第7 军。
如前所述，第7 军是新桂系集团李宗仁和白崇禧苦心培植的王牌军，跟随李、白二人转战几十年。陈毅何以选择第7 军来打呢？
对于要不要攻泅县，山东野战军司令部有不同主张。许多人认为在多雨水大的天候和部队普遍疲劳的条件下，进行攻坚作战，且又是打桂系，是不妥当的，成功的可能性不大。但山东野战军参谋长宋时轮坚决主张打泅县，陈毅也支持参谋长的意见，对于这场争论，在（陈毅传）中有详实记载：“野战军司令部参谋处有许多意见认为在水大、部队疲困条件下攻城，打桂系均不妥。而参谋长则坚持主张歼灭泅县桂系两个团。在此激烈争议而需要司令员拍板的时候，陈毅不顾‘沟深水满，不好突击’的情况，误信军分区领导干部所说的‘泅城外壕水深不过膝’的虚言，没有采纳参谋处大多数人的意见，而支持了参谋长的意见。接着华中分局的邓子恢、张鼎丞也来电建议应打蒋系不打桂系，陈毅与参谋长也回绝了，表明自己在事前已经作过慎重考虑。”
陈毅决心要打第7 军的理由，在他给中央军委并刘邓及华中军区和华中野战军领导人的电报中作了说明：“陇海线两侧敌主力均有增加，刻在双沟、曹八集正集结15个团的兵力，因此情况变化只能击溃不能消灭”，“此次（在朝阳集）打92旅，我9 个团打两天两夜始结束战斗，故无法下决心打北线蒋军，但蒋军再向东进，则有打的机会。现桂系4 个团，分布灵壁、泅县、五河3 处，其增援均在七八十里以外，打定能全歼，历来打桂系均用相等兵力，故奏效不大，此次改变是能奏效的”。“当前之敌，一为桂系，一为蒋5 军，一为薛岳部99旅、ho旅，均系硬货”，“我决心消灭桂系在泅县之两个团，并调动其增援部队，逐次消灭其二三个团。已定午夜攻泅县不再变。”
8 月3 日，毛泽东代表中共中央、中央军委致电陈毅，并同时告刘伯承、邓小平、张鼎丞、邓子恢、粟裕，指出：凡只能击溃不能歼灭之仗不要打。只要主力在手总有机会歼敌，过于急躁之意见并不恰当。劝陈毅、宋时轮要沉住气，防止急躁情绪，要耐心寻找战机，不能打无把握之仗，打则必胜。
8 月4 日，毛泽东再次致电陈毅、宋时轮：“你们手里有五万机动兵力，只要有耐心，不性急，总可找到各个歼敌之机会，除灵泅两地敌分散孤立外，双沟之敌再向东进，即可找到打好仗的机会，如能打三四次每次歼敌二三个团之仗，即可转换局势”。“攻泅县结果如何？速告中央。”
然而，从陈毅给中央军委和毛泽东的电报看，陈毅对攻泅县已下定了决心，志在必得。因此，对可能的困难缺少足够的估计和思想准备。
8 月3 日，陈毅率山东野战军主力到雅宁以南雅河西岸地区隐蔽集结，并就进攻泅县的作战进行了部署：以第8 师、第9 纵队担任夺取泅城，歼灭桂系主力第172师；第2 纵队及第9 纵队及第7 师各一部共12个团位于泅县以西、以南，歼击可能由灵壁、五河向泅县增援之国民党军；第7 师第20旅。第9 纵队骑兵团及陇海支队在北线掩护主力侧翼安全；第7 军分区第2 、第3 团挺进固镇、灵壁线及长沟以西掩护侧翼安全。
8 月7 日晚，担负攻城的第8 师先以5 个营的兵力发起攻城，连续爆破，勇猛冲击，不到10分钟就突破大北门和西北门，并攻人城内。但国民党守军立即组织猛烈反扑，攻击部队准备不足，后续兵力上不来，也未能及时发展打通两突破口的联系，扩大战果。
国民党守军先对集中突人西北门的第8 师2 个营疯狂连续反冲击，这更是始料不及的。第8 师部队在无工事依托情况下，阵地失去，伤亡惨重。
此时，守军又调动炮兵和步兵火力，并呼叫徐州的飞机前来助战，猛攻山东野战军攻人大北门的两个营。这两个营反复拼杀才得以坚守住阵地，但已付出惨重的伤亡，几乎无战斗力了。当夜第8 师再投入3 个营的兵力，仍因力量不足难以发展，与国民党军形成对峙局面。这时，第9 纵队在城东攻击也未奏效，第2 纵队则因河水阻隔既不能攻西门又无法增援大北门。
7 日深夜2 时，陈毅接到第8 师的报告：“攻人城中的部队有被全歼的危险，而城外部队又无法攻进去”。立即派参谋长赶去第8 师处置，同时发电询问进一步的情况。
8 月9 日，曾被称为陈军长袖子里的“小老虎”的第8 师，已与国民党军血战3 天，血流遍地，河水都染红了。不仅没有突破泅水桂系军队的防线，而且四周的援敌正从四面八方赶来，形势对陈毅已经极为不利。
陈毅于8 月9 日晚果断下令部队停止攻城，全部主力撤至雅宁以西地区休整待机。此战，虽取得了歼敌3000人的胜利，但第8 师却付出了2000余人的伤亡代价。
这一结果使陈毅深受刺激，第8 师也从未打过如此“窝囊仗”。指战员悲愤、消沉，牢骚埋怨的话很多。有的战士说：“上级老说要集中兵力，可临到打起来却要两个打一个。”泅县一战也是陈毅军事生涯中有数的一个“坏仗”。10月4 日，陈毅给第8 师领导写了一封信，主动承担战斗失利的责任，表现了陈毅光明磊落、敢于负责的情操。
信中说：“未打好，不是部队不好，不是师团干部不行，不是野战军参谋处不行，主要是我这个统帅犯两个错误”。“我应以统帅身份担负一切，向指战员承认这个错误。”他坦率地自责，肯定第8 师“始终是很好的头等兵团，纪律为各军之冠”，同时也作了自我分析：“在艰难困苦的日子里，我从来不抱怨部属，不抱怨同事，不推拒责任，因而不丧失信心……我从来不向敌人低头，但对自己同志我常常自我批评很愿意低头；胜利时如此，不利时也如此，即失败时亦如此。”后来陈毅又召开由各纵（师）的领导干部及参谋人员参加的战役检讨会，他认真听取了大家提的意见和建议。
陈毅这位军事家的一个显著特点，就是勇于承担责任，勇于作自我批评，主动为部属分忧，因而深受广大官兵的爱戴，享有崇高的威望。
泅县战斗后，国民党军乘势北上，于9 月上旬进攻淮阴。临沂两个华东解放区的首脑城市（一个是苏皖解放区的首府，一个是山东解放区的首府），进一步造成了山东野战军在淮北作战的困难。陈毅深感集中两支野战军在不同战略方向上分别应敌，对战局不利。对此，陈毅深为焦虑和苦恼。
9 月初发生了一件陈毅预想不到的事，即中央考虑派徐向前前往华东地区指挥全局。中共中央、中央军委考虑到国民党军在控制陇海线后，山东与华中的联系将被切断，拟派徐向前来山东负责鲁南前线的指挥之责，而陈毅负责淮海前线并统筹鲁南、苏中、胶济各前线。作为一名战区指挥员，陈毅当然明白中央这一考虑的全部含义，故在第二天起连电表示欢迎徐向前到来主持华东地区的大计。但等了20多天，徐向前也没有来。陈毅对华东战局的忧虑有增无减。
此时，蒋介石限令徐州绥靖公署主任薛岳15天之内攻下苏北各重镇，将华中新四军赶出华中。蒋介石不仅下了死令，而且派出了最强部队——国民党军整编第74师打头阵。
9 月10日，国民党军整编第28、第74师在飞机和重型炮兵的支援下，向苏皖解放区首府淮阴发动猛烈地攻击。陈毅立即调华中野战军第5 旅、第13旅北上，连同第9 纵队，统由谭震林指挥，在淮阴以西的运河南岸阻击；令华中野战军主力放弃围攻海安，星夜兼程北上，会同山东野战军在淮阴附近相机歼敌。
然而，陈毅的部署尚未就绪，桂系第7 军已东渡运河占领泅阳，逼近淮阴。正当解放军同第7 军展开激战之时，整编第74师沿运河南岸猛扑淮阴。仅17日一天，国民党军整编第74师在飞机、大炮的支援下，连续组织了5 次冲击。
19日拂晓，国民党军整编第74师以1 个营的兵力轻装从华中野战军第5 旅、第9 纵队间撕开缺口，乘虚突入淮阴城内。解放军守城部队于当日被迫撤出淮阴。
淮阴失守后，国民党军整编第74师发了疯似的继续南进，22日淮安失守。国民党军当局声称：已经实现了将人民解放军赶出华中的战略目的。为此，国民党政府党、政、军各界都大吹大擂，十分热闹。
华东的战局演进至此，客观地讲，不是陈毅等决定得了“的。国民党在华东战区集中了最强大的兵力，还有空军支援，我军完全是在敌强我弱的情况下作战。华东虽然退出了一些城市、地区，打了一些得不偿失的消耗仗，但同时也取得了歼敌8 万多人的巨大胜利，更重要的是包括华东战略区高级领导人在内的广大干部战士经受了极大锻炼，改善了装备，逐步壮大了队伍。
淮阴、淮安失守后，华中战局发生了重大变化。华中解放区已处在国民党军队的四面包围之中，华中野战军将被迫离开长期战斗的苏中大地，主动北移与山东野战军靠拢，华东战场解放军的兵力开始集中。
1946年9 月23日，考虑到华中野战军已经撤离苏中解放区，为加强领导，改变华东战局，中共中央军委决定将山东野战军和华中野战军指挥部合为一个指挥部。毛泽东在致陈毅。张云逸、邓子恢、粟裕、谭震林的电报中指出：“山野、华野两军集中行动，两个指挥部亦合一，提议陈毅为司令员兼政委，粟裕为副司令员，谭震林为副政委，如同意请即公布（对内）执行，正副参谋长以何人为宜？由你们酌定电告。”
华东两大解放军在陈毅的领导下，按照中共中央军委指示，进行了合并。10月15日，中共中央进一步指示陈、张。邓、曾、粟、谭，称：“团结协作极为重要，在陈毅领导下，大政方针共同决定，战役指挥交粟裕负责”。
从此，粟裕成为陈毅手下最得力的助手。陈毅、粟裕互相配合、相互支持，在华东战场掀起了一次又一次歼击国民党军的高潮，鲁南、莱芜、孟良圄、豫东、济南、淮海。渡江等，每战大胜，直到将蒋介石集团赶到台湾孤岛上，陈粟大军的威名也传遍了神州大地。