蒋介石在战场上节节败退，归罪于他手下的指挥官们，于是便下了一道严令：“主官不退而部下先退，致主官有伤亡情形者，杀其次级官；部下未退而主官先退者，杀其主官；见难不救，致友军有重伤，而己身完整者，杀该军将领。”
蒋介石为扭转败局，于1947年4月开始，在南京举办军官训练团。4月15日，军官训练团第一期开张，为期两个星期。蒋介石在开学典礼上作《国军剿匪必胜的原因与剿匪战术的改进》长篇讲演。蒋介石言词滔滔，吹嘘说：“以期今后剿匪的军事能够顺利完成，而建国工作得以迅速推进。”“目前这个时机，正是我们剿灭匪军千载一时的机会，各高级指挥官务须把握这个时机，认清敌人，负责自动，知耻自强，来加速消灭匪军，完成国民革命的使命。”两天之后，蒋介石又作了《剿匪战争中精神的影响与心理战的重要》讲演，尔后又连续作了《军官训练团训练之目的与方法》及《剿匪战事之意义与重要原理之综述》两次讲演。军官训练团第一期结束之后，接着又办了第二期，蒋介石同样为军官训练团第二期作了多次演讲，讲演的题目和内容又有翻新，如在第二期开学典礼上讲演的题目是《剿匪必胜的事实》，下一次讲演的题目是《对于匪军战术的研究与军队作战的要领》等等。总之，蒋介石效法他在庐山军事训练团的样子，梦想再出现一个第五次“围剿”革命根据地所造成的“好结局”。
1947年4月上旬，蒋介石先后集中24个整编师，60个旅，约45万人的兵力，并以其最精锐的主力部队整编第11师、第五军第74师等作为骨干，编成3个机动兵团，向山东解放区进攻。那74师是蒋军5大主力中的主力，蒋介石把它作为百战百胜的王牌拿出来进攻山东解放区，并派陆军总司令顾祝同坐镇徐州指挥，再加上兵团司令汤恩伯、王敬久、欧震等一批高级将领，以74师为先锋，向鲁中进犯。
蒋军的战术不断翻新，先前进犯苏北，采取的是“长驱直入”，进攻涟水则为“分头并进”，进攻宿北为“齐头并进”，进攻莱芜为“南北对进”。以上战术都以失败告吹，这次扑向鲁中山区，则采取“硬核桃”和“烂葡萄”战术。蒋介石为此战术，颇费苦心，他把嫡系主力作为“硬核桃”放在中间，而两翼放置的则是“烂葡萄”的杂牌军和二流部队。按照蒋介石的设想，如果解放军插到中间去打他的嫡系主力，不仅74师、11师、新5军3个主力能够互相策应，两翼部队还可以赶来，就啃不动这个“硬核桃”；如果解放军打他的两翼，他拚着牺牲几个“烂葡萄”；等打了几仗，弄得解放军精疲力竭时，他的主力部队突然从横里出来袭击。蒋介石以为这样的战术，万无一失。
蒋军来势汹汹，向鲁中地区的莱芜、新泰、蒙阴、沂水一线大举进攻，迫使解放军主力决战。
毛泽东致电陈毅：“对沿津浦路向北犯的敌人不要阻止，让其分散兵力，进至泰安一线，于我最为有利。”陈毅遂集中部队在胶济铁路线附近地区休整，以逸待劳，作好战斗准备。
5月初敌军继续向北推进，步步逼近，侵占了新泰、蒙阴等地，形势十分紧张。是时，毛泽东再次致电陈毅：“敌军密集不好打，但只要有耐心，总有歼敌机会，胶济路以南广大地区仍可诱敌深入，让敌占领莱芜、沂水、莒县，陷于极端困境，然后歼击，并不为迟。唯：（一）要有极大的耐心；（二）要掌握最大兵力；（三）不过早惊动敌人后方。”
陈毅、粟裕便根据毛泽东的指示，采取一系列迷惑敌人、调动敌人的军事行动。他们调动部队，实行要龙灯式的高度机动，时东时西、时分时聚，使敌弄不清我军意图和动向。对刚占新泰之敌包围之后，又主动撤围后退。华东野战军主力再后退一步，撤到莱芜、新泰、蒙阴以东地区。
蒋介石及顾祝同果然产生错觉，误认为解放军主力已向蒙阴东北及淄川、博山撤退，决心跟踪“追剿”。蒋介石密令各军改变战略，将“稳扎稳打”改为“稳扎猛打”。敌军密集靠拢的态势终于很快发生了变化。敌军第一兵团司令官汤恩伯不待王敬久和欧震两个兵团统一行动，便指挥所属的8个整编师向沂水、坦埠方向进击。急功近利的第74师在左翼25师、右翼83师的配合下，疯狂地向坦埠扑来。那74师更是急切，不久便脱离左右两翼，直向坦埠冲来，形成孤军深入的态势。
陈毅查明了汤恩伯兵团的行动计划，抓住战机立即命令正在向东向南行动的各部队掉头返回，集结待命。是时，毛泽东命令陈毅：“敌有向淄博等地急进模样，你们应集中主力待敌进至适当地点，不失时机发起反击，首先解决一两个师，依陕北经验，敌增援能力不大，如有一定间隙，以有力一部筑工事抗击，可使敌强大援军根本不能增援。”
陈毅见了毛泽东的电报，异常兴奋地说：“毛主席真是明察秋毫，用兵如神，运筹于帷幄之中，决胜于千里之外，这个指示来得非常及时，十分英明。”
陈毅立即召集各纵队指挥员会议，提出新的作战方案：不打敌军侧翼，改打中部强敌74师，采取正面突击，分割两翼，断敌退路，四面包围和阻击南北各部援敌的战法，迎敌74师于坦埠以南、孟良崮以北地区，将其从敌人重兵集团中割裂出来，予以围歼。
整编74师，原是74军改编，最早任74军军长的是蒋介石心腹干将王耀武，蒋介石的外甥俞济时也曾被派到74军第85师任师长，这个部队受过美国军事顾问团的特种训练，武器装备完全是美式的，蒋介石指定74师为国民党军的“典范”，74师一直充任国民党陆军总部的南京警卫部队，是拱卫蒋家王朝的“御林军”。74师师长张灵甫是蒋介石的心腹将领，他身材魁梧、个性强暴，具有武士道精神，崇拜拿破仑、希特勒。他毕业于黄埔军校，后又受训于“陆大”甲级将官班。蒋介石以其“作战有功”，一再升迁，由旅长而师长，后至军长。张灵甫违善从严，反动气焰十分嚣张，他反复重复蒋介石的话：“一年之内不消灭共产党，死无葬身之地。”这次北犯鲁中，锋芒毕露，决心“一鼓作气”，攻下沂蒙由区。
陈毅决心先吃掉74师。5月13日晚，解放军向74师发起攻击，在漆黑的夜慕掩护下，我军两翼的迂回穿插部队各以一部向正面的敌人进行攻击。同时，第一纵队迅猛插入敌人纵深，实施中间突破，迫近蒙阴，阻击敌第65师，割裂了敌74师与敌25师的联系。第八纵队割裂了敌74师与敌83师的联系。第四、第九纵队，向正面的敌人进行攻击；原来迂回鲁南敌后去的第六纵队，也取捷径回师，昼夜兼程，从西南向东北的垛庄方向急进。解放军各部队的行动集中目标，指向敌74师的外围阵地，很快完成了对敌74师的包围。
骄横跋扈的张灵甫仍不在乎，说道：“不要大惊小怪，共军想一口吃掉我74师，他们不但不敢做，恐怕想也未必敢想！”遂命令部队照旧执行进占坦埠的命令。直到14日上午10时，解放军已经攻占天马山、磊石山等要地，并向垛庄、万泉山进击，张灵甫才如梦初醒。于是，便命令74师放弃北进，立即向孟良崮、垛庄方向撤退，并拚力向我第一纵队反扑，企图打开返回垛庄的道路，沟通与敌25师的联系。但已经晚了，解放军已经占领垛庄，断绝了张灵甫74师的退路，张灵甫被合围在中心，插翅难飞了。
本来坐待捷报的蒋介石和顾祝同、陈诚等再也坐不住了，接连发出电令，一面好言抚慰张灵甫，一面调兵增援，调在新泰的第11师、在蒙阴的第65师、在桃墟的第25师、在青驼寺的第83师、在河阳、汤头的第七军和第48师等部队，迅速向74师靠拢，并调第五军从莱芜南下，调20师及64师从鲁南向垛庄北进，调9师从津浦路的大汶口向蒙阴东进，妄图以10个整编师的兵力，夹击我军，实行其与我军决战的企图，并解第74师之围。那张灵甫又神气起来，自鸣得意地说：“以我张灵甫为诱饵，把共军吸引在我周围，有利于四面夹攻，两下一挤共军就完蛋了。”
蒋介石又派白崇禧和陈诚去临沂作新的部署和传授蒋介石的指令，他们要张灵甫“中心开花，拚命厮杀”。
陈毅得报，则说：“白崇禧、陈诚叫张灵甫居高临下，中心开花，我叫张灵甫片甲不留，自掘坟墓！”遂命令主攻部队，发扬连续作战的作风，要坚决、彻底、干净、全部歼灭74师，不让敌人跑掉一个。
5月15日下午，解放军向孟良崮发起总攻，从四面八方进击，敌74师竭力顽抗，每一个阵地、每一个山头都在进行反复争夺战。解放军在炽盛的火力掩护下浴血奋战，越战越勇。孟良崮是沂蒙山区的著名平顶大山头，周围群山连绵，溪流纵横，72崮装点其间。在这绚丽多彩的山区，硝烟弥漫。经过3天3夜拚杀，解放军各战斗部队，顽强冲杀，扫清山麓，突破山腰，奔向山巅。
次日黎明，解放军对张灵甫的74师残余力量所占据的最后一个山峰，进行最后决战。那张灵甫从报话机中发出向25师师长黄伯韬、83师师长李天霞呼救的声音越来越急促：“黄先生、李先生赶快向我靠拢，赶快向我靠拢。”
蒋介石见74师将葬身沂蒙山区，给增援部队发出手令：“如有萎靡犹豫，巡逡不前，或赴援不力者，定必以贻误战局，严究论罪不贷！”汤恩伯也向他的部队发出急电：“岂有徘徊不前，见危不救者，绝非我同胞所忍为，亦恩伯所不忍言也。”但蒋介石、汤恩伯的命令都没有发挥作用，直到5月16日下午，各路援敌始终没有跨越解放军包围圈一步。
华东野战军第六纵队特务团在猛烈的炮火和纷飞的弹雨中向大崮顶北侧故74师指挥所山洞猛冲，张灵甫组织少数残兵败将反扑，刚从洞内露出头的敌兵，就被击毙。特务团冲进山洞，顽抗中的张灵甫和副师长蔡仁杰均被击毙。此役共击毙和俘虏敌人3．2万人。
74师被全歼，张灵甫被击毙的消息传到南京。蒋介石痛心疾首，气急败坏，惊呼：“以我绝对优势之革命武力，竟为劣势乌合之匪众所陷害。”长叹“真是空前大损失，能不令人哀痛！”
孟良崮战役胜利结束，陈毅大喜，赋诗一首：
孟良崮上鬼神号，七十四师无地逃。
信号点点星乱眼，照明处处火如潮。
刀丛扑去争上顶，血雨飘来湿战袍。
喜见贼师精锐尽，我军个个是英豪。
解放军在粉碎国民党对陕北和山东的重点进攻的同时，东北野战军在5月13日发动了夏季攻势。
林彪、罗荣桓命令东北野战军从南满、北满、东满、西满和热河、冀北6个地区，向国民党军分头发起进攻。以南满、北满主力，向长春、四平、吉林之间实施主要突击，作战指导思想是：集中优势兵力，针对防守薄弱之敌，各个击破，在运动中消灭敌人。北满的东北野战第二纵队于5月15日首先包围怀德，歼灭守敌5000人，增援怀德之敌军71军见势不妙，掉头逃跑。东北野战军独立1师当即追击，第一纵队、第二纵队迅速将敌71军第88、第91两个师围困在公主岭以北大黑林子地区，经激烈战斗，除敌71军军部少数人逃跑外，1．5万人被全部歼灭，俘敌军参谋长冯宗毅、88师师长韩增栋。战斗结束后，解放军从南北两个方向进逼四平。
5月30日，蒋介石在12架战斗机保护下，由南京直飞沈阳。下机后直趋康宁街行辕，听取各方报告。熊式辉、杜聿明、孙立人，廖耀湘等人两旁坐定，静听蒋介石训话。
蒋介石以低沉的声音说：“今年，正好是去年我到东北的一周年，可是局势大不相同，现在共军正广泛展开进攻，以切断东北和关内交通，阻碍我方援军的行动。并破坏长春至沈阳间铁路，然后对我分割包围，情况的确严重。”
杜聿明此时一筹莫展，以致忧郁成疾，怕蒋介石责备他，便道：“我本想去铁路沿线看看，只因风湿病发作，不能走动，短期内还不能出去。”
蒋介石暗吃一惊，局势危急，主帅却害起不大不小的病来。是时，杜聿明的副官走到杜的背后，在他耳旁轻轻说了几句，杜聿明顿时满头虚汗，面色如土。蒋介石忙问：“杜长官，有什么事？”
杜聿明道：“报告委座，梅河口情况不明。”
蒋介石犹如当头挨了一棒，呆若木鸡，良久才醒过神来，命令孙立人：“明天你就回长春去吧，为防万一，长春新的机场，马上动工修建。准备降落伞部队应用，你立即进行。”
次日早晨，蒋介石刚起床，刘斐急忙进来报告：“刚才平津有消息来，情形不好，天津人心慌乱，北平彻夜炮声，我们在这里不可久留。”
蒋介石心头一惊：“消息从何而来？昨晚还没听说。”
刘斐回道：“共军猛攻津浦路北段。唐官屯已被占领，平津路再遭切断，因此天津人心慌乱。同时共军又向长辛店猛攻，北平近郊也遭袭击。”
蒋介石等遂于当天上午11时，急奔机场，飞往南京。
东北野战军遂于6月14日对四平发起总攻，经过勇猛顽强突击，很快突破了敌人的城防，打退敌人连续冲击之后，进入巷战。四平守敌71军，虽然刚受过严重打击，但以地方团队迅速作补充，依托坚强工事，进行顽抗。解放军经过半个月激烈战斗，歼敌1．7万人，最后将敌压缩在四平东北隅，未能攻下，敌人增援部队逼近，我军撤出战斗。
东北野战军夏季攻势50天，歼敌8．3万人，收复城市42座，解放人口近千万，扩大解放区16万平方公里，使东西南北满联成一片。
晋察冀解放军在四五月间出击正太路，使晋察冀和晋冀鲁豫解放区连成一片。晋冀鲁豫解放军发起豫北战役，歼敌4万余人。
人民解放军经过一年的艰苦奋斗，胜利地粉碎了国民党的全面进攻和重点进攻，共歼敌正规军97个多旅，计78万余人，连同歼灭的非正规军34万人，共计112万人。
国民党军队的将士因对蒋介石打内战和对内排斥异己不满，400多名中训团将官分乘卡车去南京中山墓哭陵。他们在中山陵前博爱坊整队，由黄埔一期生黄鹤将军担任总指挥，他在队前说：
“今天我们不是谒陵，是哭陵，为了我们的国家、我们的同胞，我们要大哭、一哭、二哭、三哭！现在我们的政府对我们1000多个将官不加理睬，简直要断绝我们的生路，我们也是一个人，我们要求活着的时候有一碗饭吃，死的时候要一块板！”
400多人的队伍到陵前献花献祭、诵读祭文，内称：
“今白骨成狱，碧血为渊，嫠妇夜泣，羁魂不昧，皆莫非为主义之实现及民族之复光，借知国运维新，大敌扫除，宪法颁行，飞鸟尽兮良弓弃，训政结束兮还民，军人职贵已尽？……念及先烈之血迹未干，遗族之孤寡谁矜？成仁者固死得其所，成功者也应返归故里。”祭文触到众人伤心处，放声大哭，最后高呼：“打倒贪官污史！”
在哭陵的队伍中有6名特殊人物，他们是刚刚病逝的原国民党军190师副师长陈天民的太太和5个孩子。陈天民在5月1日患肺病死去，他在抗战时期有战功，他死后家人无钱给他买棺材掩埋，由全体受训学员每人捐6000元办丧事，但物价高达50万元买一担米，所捐之款也只能是杯水车薪了。
陈布雷把哭陵的事件向蒋介石报告，蒋介石大怒：“这种事情，其实该早点告诉我，非常简单，何必到中山陵出我的洋相！”
陈布雷又道：“因为先生日理万机，不想拿这些事烦扰，可主管人等，又不能为他们解决问题，因此只好哭陵。去哭陵的还有老华侨奚泽，他是同盟会员，早年是华侨富商，追随总理革命，变卖家产，得银170万两，捐献本党。后来在一个集团军任参谋长，因年老体衰，又不善理财，家境很窘，举家挨饿，太太不辞而别，留书：‘今生不能见面了！’径去自杀，奚泽不堪刺激，竟在陵前晕厥。”
蒋介石愤然道：“我不听了，我现在正倒楣，他们却为了生活问题给我出难题，不以党国利益为重，真叫人生气！”
陈布雷暗自叹息，颓然而去。
蒋介石气未平，秘书又送来一束卷宗，报告国民党中央监察委员李济深发表批评政府的言论，说国民党政府是独裁专政，没有民主，没有言论自由。蒋介石看罢，火冒三丈：
“这简直反了，一定重办！”
蒋介石又把陈布雷召来，吼道：“娘希匹，李济深太不象话，违犯党纪，反抗中央，应开除党籍，送交中央监察会议处理！”
陈布雷道：“先生息怒，不要着急惩罚李济深。否则，反而使他获得别人的同情，把事情闹大。你不加追究，反而显得你宽容大度，讲究民主，如果办他，不是正中了他的话吗？”
蒋介石低头不语。正当他生闷气时，陈果夫又来报告：美国旧金山出版的《世界日报》5月26日发表了冯玉祥的《告全国同胞书》。蒋介石十分疲乏，道：“果夫，你挑几段念念，这位老家伙又来教训我来了。”
陈果夫读道：“青年学生是中华民国的青年主人，因为吃不饱穿不暖，诚恳地向仆人们说：‘你们不要打仗！’这是他们的本份，他们应当有这个权力，仆人杀主人，仆人打主人，这是彻底地反叛行动，忍心害理，丧尽天良，把子弟们打伤，应该马上认罪！”
蒋介石冷笑道：“嘿！口气倒不小啊？”
陈果夫又读道：“自去年推翻政协决议，开始打内战以来，在国际上，美国的报纸没有一天不说：南京是坏政府，南京是独裁政府，南京是最贪污的官僚集团；又说世界不和平完全由中国打内战惹出来的，非共管中国不可。美国人要共管我们，我们自己还打什么？自打内战以来，台湾的民变，杀死了我们台湾多少同胞？还死了许多官吏，不打内战哪有这个事情？”