第二次北伐结束后，桂系达到了全盛时期。白崇禧、李宗仁、李济深、黄绍站等桂系骁将自广西经武汉至平津，南北呼应，摆成一字长蛇阵，兵强马壮，虎视耽耽。按当时的兵力对比情况来看，蒋、桂实力相当，真打起来的话，鹿死谁手还很难逆料。而冯玉祥的西北军实力比蒋、桂都大一些。所以大战未开，冯玉祥先成了双方争取的对象。
蒋介石派邵力子为代表，去劝冯玉祥与蒋合作。蒋介石许愿：让冯担任行政院院长；委孙良诚任山东省主席，并任由冯玉祥在湖北和安徽两省中选一省为西北军的地盘。交换条件是冯玉祥通电讨桂，兵发湖北。但冯玉祥却不作正面答复，千方百计拖延时间，想先看一看事态如何发展，待机而动。
李宗仁则派温乔生为代表，到河南辉县去见冯玉祥，邀冯一起动作，发动讨蒋。冯玉祥口头上答应得很痛快，但又借口布署军队需要时间，表示希望李、白发动战争之后能够撑持两周，到时候他兵力部署完毕，一定响应。其实这也是冯玉祥的手腕，意在坐山观虎斗。一则可以联桂反蒋，削弱蒋的实力；二则可以利用蒋、桂交战，乘势夺取湖北。因此，他派遣部将韩复第带兵进驻武胜关，坐观成败，相机而动。
蒋、桂之争，早在编遣会议草草收场后就开始了。国民党三全大会前夕，桂系利用“武汉政治分会”的权力，派兵占据了两湖地区，接通了广西，形成进可以攻、退可以守的有利态势。这时的蒋介石一心要把三全大会开成一个“团结的大会”以便夺取党权，所以他没有立即与桂系兵戎相见，而是暗地里精心策划了一个消灭桂系的计划。这个计划的要旨是：瓦解白崇禧部、拆散桂粤联盟，然后发兵征讨之。
蒋介石的谋略之术的确胜一筹，他一贯采用的办法是拉一派打一派，抑此扬彼，分化瓦解，各个击破。这次对付白崇禧，他故伎重施，利用唐生智驱逐白崇禧。白崇禧当时驻扎河北，他带到河北的李品仙、廖磊两部原系唐生智的部队，兵员多是湖南籍，乡土观念极重。白崇禧既想长驻河北，又欲向西北扩展，这就引起部下的不满情绪。蒋介石抓住这一矛盾，许以军权厚赏，收买唐生智，促其北上收回旧部于制下。唐生智立即表示竭诚拥护蒋介石，并由上海启程北上。这时，白崇禧已率部南下浦口，拟配合李宗仁攻蒋。但此时唐生智复职的消息已广为传播，部队已不听白的指挥，甚至到处出现“打倒白崇禧”、“欢迎唐总司令”的标语。白崇禧自知大势已去，遂化妆逃走。3月20日，唐生智抵达塘沽，重新统率旧部，次日即宣布讨伐白崇禧，蒋介石也立即任命唐生智为第五路军总指挥。至此，蒋介石扶唐倒白成功，桂系未曾开战就先失一旅，受到重创。
同是3月21日这天，蒋介石在南京突然下令软禁了粤系将领李济深，关押于汤山俱乐部。同时他又派粤籍将领陈铭枢和陈济棠越广东游说粤军将领服从中央，二陈不辱使命，粤军脱离桂系，桂系又失一翼，顿时孤立起来。随后，蒋介石又任命陈济棠为讨逆军第八路总指挥，陈从此成为“广东王”。
作为军事指挥官，蒋介石最推崇“不战而屈之兵”。他的拿手好戏是利用敌方内部矛盾，以重金和高官收买叛将。他用此法成功瓦解了湖南湖北，桂军不战自退，蒋介石于4月5日到了武汉，宣称“兵不血刃而定武汉”。还在武汉单独召见了冯玉祥派驻武胜关“相机而动”的部将韩复菜，蒋介石夫妇一齐出马，对韩“盛情”款待，当面许韩任河南省主席，并赠以数十万元的巨款，做起了瓦解冯玉祥部队的工作。
5月5日，蒋介石“彻底铲除”桂系的军事行动正式开始，同一天，李宗仁在梧州打起了“护党救国军”的旗号，由白崇禧和黄绍站率兵分两路向广东进军，试图打开新局面。5月21日，粤、桂军在广东白泥血战，桂军败走广西。这时，蒋介石又以四面八方调来大军讨伐桂军，6月2日，白崇禧和黄绍站自知败势难挽，双双逃到越南，蒋、桂战争以蒋介石的大获全胜而告结束。
倒桂得手后，蒋介石开始拉拢阎锡山，前伎重施，还是拉一个打一个。这次拉的是阎，打的是冯。
蒋介石在与桂系的争斗中，没有得到冯玉祥的支持，相反，冯玉祥假意支持蒋介石倒桂，却在兵下徐州时印刷了大量“讨逆公告”，这个“公告”印制得十分特别，只印“贪赃枉法、横征暴敛、屠杀民众、迫害青年”一类的罪名，却不印所“讨”之“逆”究为何。冯玉祥的用意很清楚：他说是出兵14万助蒋伐桂，实际上仍然是“出声不出力”，他是在等待最后的结局，蒋、桂无论谁打败了，他就在布告上填写谁的名宇。这种做法看似聪明，实则愚蠢，不仅把桂系害了，冯玉祥自己也得罪了蒋介石，落了个“猪八戒照镜子--里外不是。”所以，蒋、桂战事一停，蒋介石就开始算计这位“如胞兄”的冯玉祥了。他在武汉已收买了冯玉祥最忠实的将领韩复榘，接着又派到襄樊，用几十万元把石友三也“买”了过来。其后，又如法泡制，收买了刘镇华、马鸿逵等将领。
收买冯玉祥部将的同时，蒋介石又广泛散布谣言，说冯玉祥意欲与苏联勾结，要打蒋介石，然后向山西发展，攻打阎锡山，以此挑拨冯、阎之间的关系。阎锡山虽然不相信冯玉祥要打自己，但毕竟“三成虎”到处都在传播这个说法，弄得他也疑虑重重。
在这样的情势下，蒋介石又使出第三招：连连电请冯玉祥南京供职，企图使西北军陷群龙无首的境地。而冯玉祥到了这种时候当然是断断不会上当的，他明确表示自己不去南京是“恐为李济深第二”。拒绝京之后，冯玉祥在华阴召开军事会议，决定武装反蒋，并自任“护党救国军西北路总司令”，要求所属各部从山东、河南等地撤至憧关集结，准备迎击蒋军。
5月8日，国民党中央政治会议推蒋介石为主席。23日，国民党中央常委会通过了决议案，革除冯玉祥的一切职务，永远开除其党籍，并下令查办。至此，蒋、冯矛盾公开化。在国民党中央发布的各项文告中，冯玉祥被称为“统一之梗”，成了“阴险成性、反复无常”之徒。
在此期间，冯玉祥的部将韩复榘、石友三突然通电维持和平，表示拥护中央、拥护蒋介石。两名部将的公开叛变，使冯玉祥痛心疾首，他在华阴日夜哭泣，咒骂自己，甚至打自己的嘴巴。在蒋介石的强大压力下，冯玉祥失去了迎战信心，他突然宣布：“自5月27日起，所有各处电文，一概谢绝，从此入山读书，遂我初衷。”他以此种方式下野当然不是为了读书，而是为了使蒋介石失去进攻西北军的借口，保存西北军的实力，然后设法联合阎锡山反蒋。这一招果然有效，蒋介石的武力进攻成了无名之师，只好暂时停了下来。
冯玉祥宣布下野后，一口恶气出不来，当然不肯善罢甘休。于是他派邓哲熙和曹浩森到太原找阎锡山，表示希望与阎联手反蒋。阎锡山在蒋、冯冲突中左右逢源反复其手，既媚蒋压冯、又拉冯抗蒋，使自己处在蒋、冯都要竭力拉拢的有利位置上。蒋介石自己就是玩弄这一套手法的大行家，岂能识不出阎锡山的把戏，只是以他当时的力量，无法一口吞下冯、阎两支实力军队，只好采取各个击破的办法，笼络阎锡山，先把冯玉祥弄垮，回过头来再收拾晋军。6月7日，蒋介石致电阎锡山，委任他为北路军总司令，要他帮助进攻冯玉祥。阎锡山则回电表示不愿内战，扬言他要与冯玉祥一起下野出洋，井派专程赴日本安排住处，还在天津订购了船票，摆出一副真的要引退的架式。在此之前，阎还让冯派来的特使邓哲熙和曹浩森捎话给冯玉祥，请冯玉祥赴太原共商反蒋大计。当时冯玉祥怀疑阎锡山别有他图，不敢贸然赴晋。后见阎真的是要出洋的架式了，加上阎锡山又派了一向受冯玉祥敬重的老朋友李书城前往华阴劝冯也一起出洋，遂打消了顾虑，于6月ZI日启程赴太原。24日晨，在运城住了3天，备受晋军将领优礼相侍的冯玉祥乘车前往太原，当晚与阎锡山在介休见面，25日一起到了太原。
冯玉祥一到山西，阎锡山自以为“奇货可居”，遂以冯玉祥为政治资本，暗中同蒋介石谈起交易来，蒋介石明白他的居心，便投其所好，亲赴北平约阎面谈。阎锡山在太原与冯玉祥虚以委蛇，却又偷偷跑以北平与蒋密谈。经一番讨价还价，蒋介石委任阎锡山为全国陆海空军副总司令，阎锡山则答应尽快解决西北军。“协议”达成后，阎锡山回到太原，先是“称病”住了医院，后又退掉了赴日的船票，并寻个借口将冯玉祥骗到五台县建安村软禁起来。
冯玉祥上了阎锡山的当，当然既怒又急。但他身处晋军之中，只能不露声色，暗地里却在寻找出路，设法拆散蒋、阎联盟。他在建安村里动弹不得，便暗中授意留在陕西主持西北军军务的宋哲元，要他绕开阎锡山，直接与南京政府联系，向蒋介石靠拢。冯的部下们痛恨阎锡山趁火打劫，又苦于冯玉祥被软禁，西北军军饷无法解决。得到冯玉祥的密令后，宋哲元等西北军将领算是找到了一条出路。当时，西北军的将领鹿钟麟在南京政府住军政部长，宋哲元便派参谋长陈琢如赴南京见蒋介石，表示西北军接受中央指挥，要求补给军饷。蒋介石闻言大喜，以为西北军已然不战自降，瓦解冯系不再需要借助晋军了。于是，他委派于右任和贺耀祖到西安宣抚点编西北军，安抚冯军部将，并供应军饷。从此，蒋介石与西北军的关系由对抗--缓和，转而成为“亲密”了。
阎锡山见此情形，深恐蒋、冯联合起来对付晋军。为了摆脱困境，他于中秋之夜亲往建安村，当面向冯玉祥赔罪，并提出联合反蒋的建议。冯玉祥见折散蒋、阎的目的已经实现，遂表示愿与间捐弃前嫌，联手反蒋。经商议，冯玉祥仍住在建安村，居于幕后，以留回旋余地，由西北军将领首先举事，并通电拥戴阎锡山为首领，共同讨蒋，然后再由晋军起而响应。
1929年10月10日，宋哲元等27名西北军将领，联名发表拥戴冯玉祥、阎锡山，讨伐蒋介石的通电，列举了蒋介石的六大罪状：
一、“自蒋氏继任主席，滥用威权，包办三全大会，党成一之党，中央成一之中央。假中央集权之名，行专制独裁之实”，“天下为私”。
二、“自蒋主中枢，政以贿成。政府委员及财政官吏，非其私，即其妻党。狐鼠凭陵，秽闻昭彰。贪污之风，实甚于昔北京政府，以致开国正气，竟被蒋氏一手破坏无余”。
三、“连岁水旱成灾，遍及全国。仅西北各省灾民数近二千万。哀鸿遍野，奄奄待毙”。蒋氏对非嫡系部队，“常景十余月发一晌，死者无抚恤，伤者无医药，生者无一食。而蒋氏及其左右私党，骄奢淫逸泊享帝王之奉。军民交瘁，漠不关心。自蒋氏到南京。不足三年，前后发行公债四亿二千万元”。“蒋氏用总司令名义支用特别费，每月百余万元。凡此黑暗贪污，即榨取民脂民膏民血”。
四、“蒋氏狡悍阴整”，“毫无政治道德、权术自民诡谋百出”“行帝王专制之淫威”，使“兄弟骨肉自相残杀。今年湘、鄂、粤。桂川卜滇、黔等省，战祸连绵，蒋氏一实为之涌。”
五、“蒋氏假借编遣为名，一面令竭力灭缩，一面自己加大招募。两度会议，皆属欺骗阴谋。近更向德国大购军械，暗扩军额。外标和平统一之名，阴行武力统一之实。”
六、“蒋氏自知多行不义，为国所不谅，乃更异想天开，学拿破仑三世之所为，利用外交问题，转移国的目标”。“此次中东路事件发生愈月。和平交涉，既无把握，武力抵抗更不准备，坐令俄兵出没边境，焚烧城池。边民数百万流离失所，财产损失，以数万万计，丧权辱国，薄海痛心。”
通电最后宣布：“蒋氏不去，中国必亡”，“即日出发，为国杀贼，万死不恤”。
宋哲元等的讨蒋通电慷慨激昂，指陈蒋的几条罪状都是有目共睹的事实，因此有一定的号召力。通电发出后，西北军兵分三路，浩浩荡荡向河南进军。但是，这一次西北军又上了阎锡山的当。通电讨蒋后，西北军进展很快，连战连捷，但晋军却按兵不动，迟迟不予响应，致使西北军后继乏力，士气大受影响，战局在短时间内发生了急剧变化。
28日，蒋介石以陆海空军司令的名义，发表了《讨冯誓师词》，大骂冯玉祥说：“冯逆反复，好乱成性，勾结暴俄，祸国殃民，既召外侮，又图称兵，内战国本，外失威信，举国同仇，疾首痛心，全军愤激，师出正名，为党讨逆，为国牺牲，党亡与亡，国存与存，身为后死，誓不偷生，义无反顾，勇往急进，军法连坐，敌代同心，内奸不除，国无幸存，叛徒不灭，民难安宁，歼除内奸，固我国本，肃清反叛，安我国民。”
由于蒋军兵多将广，弹药、粮食充足，而西北军孤军深入，兼以宋哲元和孙良诚因争夺指挥权而发生矛盾，孙良诚意气用事，竟擅自率部脱离战场，导致全线溃乱，全军退回到潼关以内。因此，仅仅一个多月，蒋介石就打败了西北军。冯玉祥第二次反蒋又失败了。所幸这一次冯玉祥身在幕后，从表面上看，蒋介石打败的是宋哲元和孙良诚部下的西北军，并未与冯玉祥发生直接的冲突。因此，西北军战败后，冯玉祥的处境至少没有变得比开战以前更糟糕，蒋介石也不敢逼冯过甚，给他指了两条出路：或者到中央供职，或者出洋考察。
冯玉祥处境如此，阎锡山的日子也不好过。10月28日，蒋介石把特任阎锡山为陆海空军副总司令的命令公布于众。11月5日，阎锡山也喜洋洋地宣布就任此职。然而，就在阎锡山脸上的笑容还没褪去的时候，11月26日蒋介石突然规定：“在中央有职务者不得再兼省职。国府委员应驻京，无公事不能离职。”按照这个规定，阎锡山将不得不离开太原到南京去当官，这实际上等于被蒋介石“削了藩”，等干将晋军拱手送给了蒋介石。接着，蒋介石又派宋子文到平、津两市，把平、津税收尽数归为国有，使盘踞平、津实地的阎锡山从此无税可收，空守着个水中月、镜里花。阎锡山几年来帮蒋介石绞杀其他派系，出力甚多，到头来落得这样的结局，连连吃了蒋介石几个“哑巴亏”。而且，眼看蒋介石将嫡系部队大批北调，明摆着是冲着晋军和冯军来的。在这种情况下，一向善于投机钻营的阎锡山也不得不考虑出路问题了。出路只有两个，或者拥蒋，任其宰割，弄个有名无实的闲官当；或者反蒋，拼个鱼死网破。若果然扳倒老蒋，前景自是妙不可言。在两条出路的抉择中，阎锡山还没拿定主意，蒋介石却又来逼他了。1930年1月16日，吴铁诚奉蒋介石委派来到太原，请阎锡山补行副总司令就职仪式。这不是个仪式的问题，而是蒋介石逼间表态的一种形式。阎锡山被挤到绝路上，遂借机发表了反对蒋介石的演说，公开指责蒋介石独裁。并要求蒋介石下台，“在野负责”。蒋介石则一面反唇相讥，一面调兵遣将进行武力威胁，同时授意何应钦提出也叫阎锡山下野。
蒋、阎的争吵，使冯玉祥看到了转机。他虽被困建安村，但与西北军将领仍保持联系。这一次，冯玉祥重施故伎，密令鹿钟麟派与蒋介石联系，并故意使阎知道。阎锡山果然上当，认为蒋、冯意欲联合对付晋军了。他审时度势，认为冯玉祥反蒋是一向坚决不馁的，现在冯处于逆境，自己若能主动与他修和，共同反蒋，冯玉祥多半会同意，何况他与冯是拜把子兄弟，冯又是个粗放豪爽之，凭自己三寸不烂之舌，不怕冯玉祥不尽释前嫌，联手发动新的反蒋战争。于是，阎锡山决定联冯打蒋。他自任首领，请冯玉祥回陕指挥西北军。在冯玉祥临走的前一天，阎锡山又来到了建安村，极其诚恳地对冯玉祥说：
“大哥来到山西，我没有马上发动反蒋，使大哥受了些委屈，这是我第一件对不起大哥的地方；后来未哲元出兵反蒋，我没有迅速出兵响应，使西北军受到损失，这是我第二件对不起大哥的地方。现在我们商定联合反蒋，大哥马上就要回到潼关，发动军队。如果大哥对我仍不谅解，我就在大哥面前自裁，以明心迹。大哥回去以后，倘若带兵来打我的话，我决不还击一弹。从今以后，晋军吃什么、穿什么、用什么，大哥的军队也吃什么、穿什么。用什么，一律待遇，决不歧视，我心耿耿，唯天可表。”为了表示诚意，阎锡山当场交给冯玉祥现款50万元、花筒手提机关枪200支面粉2000袋，于 1930年3月9日送冯玉祥回到陕西。
冯阎结盟后，阎锡山一边积极进行战前部署，一边制造假象，发出“下野”通电。3月10日，西北军将领23发电挽留，并表示愿追随阎锡山奋斗到底。13日和14日，晋军将领和第二、第三。第四集团军的将领共计57通电全国，一面历数蒋介石的罪状，要蒋还政于民，一面公推阎锡山为中华民国陆海空军总司令，推冯玉祥、李宗仁、张学良为副总司令，推刘骥为总参谋长。
4月1日，阎锡山在太原宣誓就任总司令，冯玉祥和李宗仁分别就任副总司令。阎锡山就职时发表通电，指斥蒋介石“专制独裁，为所欲为”。以致“党不党矣，政不政矣，国不国矣，民不聊生矣。”
至此，中原大战爆发。