1930年4月，蒋介石以国民党中央宣传部的名义，编了《讨伐叛党祸国殃民的阎锡山冯玉祥卜书，将《国民政府拿办阎逆锡山令》、《讨伐阎锡山宣传大纲》、《讨伐冯逆宣传大纲》等予以公布。并历数了阎锡山的罪恶：
“一、假革命之名而攫取权位”；二、“残害同志，劝袁称帝”；三、“假名村治搜括民财”；四、“摧残教育实行愚民”；五、“破坏交通扰乱金融”；六、“煽动冯唐破坏统一”；七、“妄发主张藉端倡乱”；八、“勾结反动倾危党国”；九、“封闭党部拘捕党员”；十、“阳唱出洋阴行南犯”；十一、“勾结外卖国求助”。“总之，阎逆为背叛中央，满足野心之故，不惜以华北民众为牺牲，不惜以国家主权为代价，其卖国求助之罪，较冯逆之勾结苏俄，断送蒙古新疆，实有过之无不及。”同时历数的冯玉祥的罪恶有：“甲、勾结苏俄，招纳共党；乙、破坏交通，图碍奉安；丙、拥兵割据，反抗中央；丁、感使桂系，称兵叛变；戊、吞没赈款，霸占赈粮；已、苛征暴敛，强迫种烟；庚、惨杀民众，摧残舆论；以上七端，特就其大者而言，有此七罪，已属死有余辜；况冯述种种劣迹，尤有笔所难宣者，虽欲以细行欺世，谁其信之。”
蒋介石还亲自发布了《为讨伐阎冯告将士》、《告国民革命军全体将士文》及《阎锡山扰乱党叛迹昭彰》、《北方反动势力的丑态》、《阎冯勾结反动余孽捣乱情形》。其中说：“阎逆锡山，冯逆玉祥，存封建之心理，具军阀之积习，举动恐统一将不利于其割剧之野心，和平将消挥其作乱之机会，故处心积虑，必欲破坏统一而后已，必欲扰乱和平而后快。”说阎锡山“狡诈为心，阴险成性，常欲以别供牺牲而立于不败之地，对中央虽貌示服从，对地方则使叛变，纵横排阎，挑拨离间，无所不用其极”。说冯玉祥“迭次谋叛，幸逃显戮，缉榜犹悬，野性复炽，此次受阎逆庇护，又图死灰复燃，啸聚渲关，进犯郑洛，与阎逆共肆披猖，作反革命之大团结。”蒋介石表示要坚决“讨伐”阎冯，认为“此役为封建军阀最后之挣扎，亦即革命战争最后之一幕”。此外，蒋介石还策动了两湖、两广州、苏、皖、赣、闽等省及上海、天津、武汉等市的党部发表通电要求蒋介石讨伐阎锡山。在大造讨伐阎冯舆论的同时，蒋介石亲自在武汉召开京汉线作战各部队将领军事会议。蒋介石在会上对各将领训话说：“作战的关键问题，是对敌兵员的杀伤。只有对敌兵员的大量杀伤，才能解决战事。……你们应当大胆放手地尽量利用我们的优势炮火，予敌以重大的杀伤。”
蒋介石投入的总兵力大约有60万，其中有一半左右是杂牌军。反蒋的军队总计集中了70万，兵力上稍占优势。这个反蒋阵营共分为八个方面军，桂军为第一方面军，由李宗仁统率；冯玉祥的西北军为第二方面军，阎锡山率晋军为第三方面军，原驻新乡地区后又倒戈投归西北军的石友三部被编为第四方面军；因张学良被内定为陆海空军副总司令，所以东北军被定为第五方面军；其余几个方面军则分别由四川刘文辉部、湖南何键部及樊钟秀部编组。这样，双方共计投130万，以河南、山东、山西。陕西等省区为主战场，展开了一场历史上空前的新军阀中原大战。
蒋介石对这场战争早有应变准备。他明白，这些地方实力派拥兵自重，不听差遣，不诉诸武力是断难使其俯首贴耳的。因此，早在冯、阎公开联盟之前，蒋介石就有计划地将其嫡系部队调到徐州、蚌埠一带集结，随时准备应付冯、阎两部的异动。
1930年5月1日，蒋介石发表了《讨阎誓师词》。11日蒋冯间中原混战正式打响。陇海线位置在全局的中央，津浦、平汉是它的左右两翼。双方把主要兵力使用在陇海线方面进行较量。初战，蒋军来势甚猛，并且有空军配合，激战数日，联军遭到了极大的挫折。蒋介石亲自到归德督战，想一举把陇海线正面的晋军打垮。但在此时，联军重新作了部署，全线发动攻势。
阎锡山集中了九个炮兵团324门大炮的火力，实行墙壁射击，蒋军损失惨重。冯玉祥派去吉鸿昌率部协同孙良诚增援晋军，孙吉二素以骁勇善战著称，而且又是刚刚加战斗的有生力量，一经接战，就把蒋介石的精锐陈诚部几度包围，杀伤很大；郑大章的骑兵奔袭归德，差一点生擒蒋介石。在周佛海写的《往矣集》上有这样一段叙述：“冯玉祥的骑兵郑大章部来袭击飞机场，他们的任务是烧了飞机就回去，谁知我们车上只有200多卫兵，（当时蒋介石在归德的朱集车站指挥作战），车站上又没有其它军队，如果骑兵到达车站，主帅以下都要被俘。”这时反蒋的波浪几乎弥漫全国，而蒋在军事上又打了败仗，与蒋介石有密切关系的就问蒋：“今天消灭甲，明天消灭乙，闹得自危，这样发展下去，将来何以善其后呢？”蒋介石忿然作色而又十分自信地说：“只要们要官要钱，我就有办法！”
经过几次激烈的战役，冯部消耗很大。阎锡山对冯部的补给，开始时还比较充分，可是越到后来，不仅数量少，而且不及时，尤其是械弹和战斗器材的补充，渐渐到了百呼不得一应的程度。在津浦线上，蒋介石军队于7月中旬开始反攻，晋军节节后退，蒋介石在7月24日给中央的呈文中说：联军“万选才就俘，樊钟秀炸毙，孙殿英被围，土匪行将次弟消灭。而阎冯寇部屡次冒死来犯，迄不得逞，徒自伤亡其精锐。最近闻我方增加部队将到，其恐慌愈甚，其为困兽之斗亦愈烈。本月11日起至20日止，此10日中，逆军竭全力兵攻我陇海正面，攻我平汉各军，攻我围毫部队，而皆自取覆灭。今其全力竟皆丧失已尽，解决不难立待也。”阎锡山“急来抱佛脚”，特派周观携带大批现款、弹药和面粉赶到郑州见冯玉祥，请冯救援。冯为了顾全大局，自不能对津浦线紧急情况袖手旁观。于8月上旬在陇海线又发动了全面攻势，以徐州为目标，分七路总攻。这时蒋介石鉴于情势危急，为了确保退路，就分电各路将领固守鹿邑、太和、阜阳、涡阳、蒙城、永城、夏邑和毫州各城，且明码标价：敌军来攻时能固守不失者，准各升二级，赏洋5万元。而同时，由于连日大雨不停，冯部的士兵疲劳过甚，给养又极困难，攻势受阻。这样，蒋介石的颓势有了扭转，冯部没有起到支援晋军的作用。晋军于8月15日放弃济南，撤往黄河以北，数万大军纷乱地抢渡黄河，被水淹死和在黄河铁桥上被蒋部的飞机炸死的不计其数，其状其惨。蒋介石在8月16日给中央的战报中说：“我右翼军蒋师已于15日下午二时确实占领济南，并因我军先绕道占领黄家庄等地，逆敌只一小部分渡河北窜，其余全数被擒，是役俘虏官长无数，获步枪2万余支，大炮230门，其他辎重弹药极多。逆敌仅有之飞机2架，亦不及运回。其狼狈窜逃情状，概可想见。查阎逆据济南以后，自诩胜利，号召各派反动分子妄思组织伪政府，且冯逆玉祥积极攻击陇海平汉两路，幸赖各将士忠勇奋发，一致努力，卒能克复济南，击溃晋逆主力军。现津浦路我军正分路渡河追击，胶济路各军亦早协同前进，晋逆必可完全歼灭，冯逆残部闻风胆落，而日来向我各部作最后之猛烈攻击者，昨晚完全沉寂。此据报告，且已呈溃退之象，我军部署追击，就不难一鼓荡平。”22日蒋介石发表训令，争取冯阎的部将。训令说：“阎锡山冯玉祥倡乱魁率，法无可有，至其所部将士，皆曾为革命尽力，徒以冯阎胁制，乃至误歧路。其情实有可原，其愚尤为可悯。现拟重行传檄，明白告诫各该部将士，果能大义灭亲，擒解祸首，听候中央惩治，自当特予赏，但使自拨来归，迫令其祸首阎冯卸除兵柄，驱逐于其所谓防地者之外，杜绝割据弄兵扰乱党国之野心，则各部本为中央军队，就必仍与中央各军享受一律待遇，决不稍有歧视，并以各军反正附义时期之先后，以为论功行赏次第之表率。”24日蒋介石下令各军，再次明码标价，先占领巩县者赏洋20万元，先占领洛阳、郑州者赏洋100万元。9月6日，蒋部发动对冯部的总攻。
就在这时，张学良不再袖手旁观，他于9月18日发表通电拥蒋，率东北军大举入关，加入蒋军集团。
张学良在两派争相拉他联盟的情况下一直不表态，静观风向达半年之久。一开始，他想置身事外，避免东北军卷入战火。因为当时张作霖去世不久，东北大局未能得到巩固，日本帝国主义插手东北事务的企图严重威胁着东北的政局。这种时候，如果东北军贸然加入内战，难免给日本以可趁之机。所以，张学良曾多次发表和平通电，呼吁通过会商解决纷争。但是，大战前及大战开始后，张学良成了双方决定胜负的筹码，一时说客盈门，各方代表你来我往，纷纷到沈阳与张学良会晤。在双方对张学良的“开价”上，蒋介石自然处于优势地位，他的亲信张群、李石曾、吴铁城等轮着班盯在张学良身边。张到哪里，蒋介石的就跟到哪里。蒋介石先是委任张学良为副总指挥，又委任东北军将领于学忠为平津卫戍司令，委任王树常为河北省主席。这么一来，等于把平、津两市和整个河北省送给了张学良。如此巨大的“实惠”，对张学良当然具有很强的诱惑力。与蒋介石比较，反蒋派拉拢张学良的手段就不值一提了。联军57位将领于3月14日联合发出讨蒋通电后，阎锡山先后派行营主任梁汝舟、军械处长张维清和山西省建设厅长温寿泉赴沈阳，冯玉祥也派了邓哲熙、门致中等先后到沈阳劝说张学良加盟。但他们都拿不出什么“实惠”的东西来拉拢张学良，又因为职衔与张学良相比太低了些，所以除了一般性的交谈之外，在态度上很难表现反蒋派拉张学良的“坚决”与“诚恳”。这样，使张学良认为阎、冯二对自己不够尊重，也就虚与委蛇，不肯表态。而蒋介石则不同，他一方面对张学良诱以重利，一方面又采取老一套的分化瓦解手段，以高官厚禄收买东北军的将领。这就使张学良感到很担心，因为他知道蒋介石手腕的“高明”，更知道蒋介石的不择手段的性情。初掌东北大权的张学良经过反复权衡利弊，终于决定倒向蒋介石。这一天，是1930年的9月18日。恰好一年以后--1931年9月18日，日军在东北发动“九·一八”事变。两个“九·一八”联系起来，是有着一定的因果关系的--一东北军入关，在军事上使日本有了可趁之机，张学良加蒋介石集团，把东北的命运交给了南京政府，在政治上成了蒋介石与日本帝国主义作交易的筹码。可以说，这是张学良所犯的一个无法挽回的错误。
张学良加盟蒋介石集团之前，冯、阎部队在中原战场上已呈败势。东北军一入关，蒋介石集团如虎添翼，在军事压力与安抚收买双管齐下的攻势下，先是著名的“倒戈将军”石友三投奔了张学良，其后晋军和西北军将领也纷纷自寻门路投靠了蒋介石和张学良，其它杂牌军更是忙不迭地换成了蒋军的旗号。
在蒋介石集团的强大军事压力下，阎锡山命晋军迅速北撤，回到山西老窝，企图保住这块赖以起家的根据地。而冯玉祥对此并不知情，仍集结部队于郑州外围，准备与晋军协力对付气势汹汹的蒋军。及至知晓实情，冯部将领已各奔东西，冯玉祥只身陷了众叛亲离、四面楚歌的境地。
声势浩大的反蒋联盟，被蒋介石用了半年多一点的时间就击溃了。
在击败反蒋军事联盟的同时，以改组派和西山会议派为主组成的反蒋政治联盟也宣告瓦解了。当中原大战的序幕刚刚拉开时，联合反蒋的改组派和西山会议派也开始了一场既要统一又互不相让的大争吵。说“统一”，是因为两派都是反蒋的，因为同受蒋介石的政治压迫而走到一起来的。但是，改组派与西山派的誓不两立是源自国共合作时期的，在党统问题上都十分敏感而且各不相让。在反蒋军事联盟业已实现的情况下，政治上也急需组成一个国民党中央，用以对抗蒋介石的那个“中央”。在此之前，为了对蒋介石一手操纵的国民党第三次全国代表大会产生的三届中央表示反对，改组派和西山会议派分别在广州和上海另立过中央。现在，双方都坚持以自己的二届中央为合法的党中央，因此争执不休，反蒋的中央政权在中原战火的炮声中酝酿了5个月，始终未能建立起来。
大战开始时，汪精卫正在香港。虽然为了建立反蒋中央的事，改组派与西山派都想让汪精卫尽快北上主持局面调解争执，但是汪精卫却迟迟不动身。他是想等桂系和张发奎北上战胜蒋军后在两广建立中央，不愿到北平去。一直等到桂系和张发奎被蒋军击败，汪精卫的如意算盘落空，他才寄希望于北平，遂于1930年7月23日转道日本来到北平。经过一番激烈的讨价还价，1930年8月7日，中国国民党中央党部扩大会议在北平中南海怀仁堂正式召开，会议选举了常委、秘书长及委员会主任、委员等，并通过了宣言。决定组织与南京对抗的国民政府。阎锡山被推为国民政府主席，汪精卫、冯玉祥、李宗仁、谢持为国府委员。阎锡山于9月9日在怀仁堂宣誓就职，反蒋的政治大联盟总算在组织形式上形成了。可惜，阎锡山在“国家元首”的宝座上只坐了9天，张学良突然于9月18日通电拥蒋，反对扩大会议。9月19日泰军大举关，“国民政府”也跟着垮台了。
10月16日，阎锡山、冯玉祥。汪精卫。邹鲁、谢持、陈公博等在太原开会，商议如何收场。但蒋介石挟军事胜利之感，根本不给阎、冯等讨价还价的余地。他早在10月3日的“大赦通电”中，就已把阎锡山和冯玉祥列了不可赦兔的名单中。随后又多方施加压力，要求他们必须无条件下野。
11月4日，阎锡山和冯玉祥联名发表通电。声明“即日释权归田”。但蒋介石不依不饶，逼迫他们出洋，并发布了通缉令。在这种情势下，阎锡山不得不离开太原，逃到日本占领的大连居住。冯玉祥则秘密潜入晋西，到他的老部下宋哲元驻防的稷山县居住。1931年夏，宋哲元部移防晋东，冯玉祥也迁居到晋西汾阳县内的峪道河。在这里，他表面上过着隐居的田园生活，实际上是在总结政治斗争的经验教训，同时还开办了一所小型的军官学校，训练军事斗争骨干。峪道与陕北苏区接近，蒋介石鞭长莫及，冯玉祥住在这里，为的是防备万一，倘若蒋介石逼迫过甚，他随时可以渡过黄河，进入陕北。
蒋介石以权谋加上金钱的力量，击败并摧毁了以阎、冯、桂系为首的地方实力派军事力量，同时瓦解了以汪精卫为首的党内反蒋政治集团。但是，这种军事上和政治上的胜利却并没有化解错综复杂的矛盾。当时蒋介石仍然处于危机四伏的境地，日子并不好过。