蒋介石下野之际，正是国民党内“党统”争夺趋向高潮之时，除宁、汉两方各以“正统”自诩，指称对方为“非法”外，原从国民党中央分裂出去的西山会议派，也以“反共先觉”自居，在上海租界里，打起了“沪二届正统”的旗号。于是在同一面青天白日旗的区域里，出现了一国二国民政府（南京、武汉）三中央党部（宁、汉、沪）的光怪陆离现象。
宁方党中要人胡汉民、吴稚晖、李石曾、张静江等表示要同蒋“共沉浮”，继蒋之后宣布辞职。李宗仁、白崇禧桂派军人在党内毕竟资历过浅，且胡、吴等在辞职通电中以“貌和神离，惟领袖自竞”等语责备李、白，李颇感缺憾之处。然而，李宗仁不愧是一位容貌宽厚而心志精明的政坛高手，为增强自身在党争中的竞争地位，他首先向在沪的西山会议派人士频送秋波，愿意携手，西山派圈子中本不乏“党中元老”，憾无实力作后盾。桂系有意与诸老交欢，西山派人士也格外对李表示好感。
李宗仁、白崇禧又向汉方发出一电，力言统一国府之必要，主动请示今后方针，明确表示仍以武汉中央为正统，并派出手下湖北籍大将胡宗铎前往武汉，与汪等汉方人士接洽。汪精卫见蒋已下野，李宗仁又有如此表示，乃发表声明称：“今蒋解除兵柄，听命于党，李宗仁等复请中央党部及国民政府迁都南京，兹经中执会扩大会议议决，即日迁都南京。”
汪的声明盛气凌人，李宗仁等虽十分不满，但为救燃眉之急，也不得不先退一步，对汪等来宁柄政表示欢迎，并亲往江西庐山与汉方诸要会晤，洽谈武汉政府迁宁具体事项。李宗仁因有求于汉，态度极为谦恭。汪精卫一心想借机统驭全局，恢复其党中最高领袖地位，表示武汉政府于9月3日前迁往南京，在宁筹备召开二届四中全会，即派出谭延闿、孙科作汉方代表，先行赴宁。双方决定第七军完全负南京卫戍，汉方程潜之第六军全部东开，唐生智部开往芜湖，助宁打孙传芳。
李宗仁乘坐舰艇回南京时，已发现北岸孙传芳部作蠢动。原来孙传芳闻南京内讧，乘宁、汉尚未妥协，倾其“五省联军”全部剩余力量，加上张宗昌的直鲁联军，号称“雄兵10万”，卷土重来。李尚未抵宁时，已有部分北军渡过长江，潜向乌龙山、燕子矶等处，随后又迅即占领了龙潭、栖霞、高资、下蜀一带，掩护后续主力南侵。
李宗仁立即调兵遣将，作出应战部署。南京可调之兵除桂军外，便是蒋介石的第一军。而第一军在蒋下野时即接到指令，逐步撤至江浙边界沪杭路一带，以保存实力。海军部队对北军越过天堑负有重大责任，此时也意存观望。蒋介石下野前就预料到孙军南犯，当在指顾间，有意陷桂军以孤军作战的境地，收借刀杀人之效。李宗仁一面命夏威先率第七军驰栖霞，堵住从龙潭等地渡江的孙军主力，夺回被1军弃撤的乌龙山、栖霞防地；一面亲自赶往第一军总指挥部，找到何应钦。
何应钦正在收拾行装，准备开拔。李乃告何：“首都存亡所系，你不能一走了事！”
何在迟疑不决，李突改以辞色俱厉告何：“敬公，你真要走，我可对你不客气了！”
何应钦也感到事态严重，同意与7军协力御敌，并立即通令第一军停止退却，准备反攻。
孙传芳这次南犯为孤注一掷之举，决定背水一战，将所有运兵南渡的船只一律调回，统由长江北岸的大刀队看管，以示有进无退。李宗仁也横下一条心，拼死力与敌决战。龙潭战役开战后，双方均以主力拼杀，崖裂土翻，天日变色，血战3昼夜，打得难解难分。
第4日，孙军身后突遭京沪路东段生力军的进攻。原来在上海与各方交涉并筹款的白崇禧在事毕后返宁，途至无锡时，前行之快车倾覆，铁路遭破坏。白当机立断，赶赴镇江，坐地指挥，严令驻京沪线东段之第一军第14师师长卫立煌就近率部向龙潭反攻，令正从常州向杭州开拔的第一军第2师师长刘峙部回师往援，同时檄调后方一切能调之兵，主要为驻沪第一军第1、3、21等师以及桂军新编部队，星夜驰援南京。白又打电话给海军司令杨树庄，命他开出舰队，守住渡江口，切敌后援，并说：“孙之势力终必被歼，海军如不努力，将来一定要追究责任。”杨树庄不得不派出通济舰至镇江，但作战仍不积极。白崇禧便派潘宜之在镇江带了一班宪兵登舰，押了舰长李世甲向龙潭开去，从背后炮击敌人。其他军舰见通济舰出击，也纷纷行动起来，孙部的后援被截断。
白崇禧由东而来的增援同李宗仁、何应钦指挥所部对龙潭的反攻成夹击之势，孙军虽据险顽抗，但经数日鏖战，终感不支。8月30日晨，孙军作了最后一次凶猛反扑后，因死伤惨重，有退却企图。但被来自东、西两面军队合力进逼，压至长江边，孙传芳仓皇登上小汽艇逃命，所部10万大军除少部得保残命，逃到北岸外，大部被歼、被俘。降兵押解南京时，分4路纵队前进，排头已抵南京城郊，排尾尚在龙潭。孙传芳经此打击，从此绝无再起可能。
李宗仁见局势大变，阵脚站稳，愈发雄心勃勃。其时汪精卫等如约来宁柄政，李宗仁却已不甘心轻以政柄拱手相让，他表面做着迎汪的准备，暗中积极筹划对付办法。宁方在沪的中执监委胡汉民等以及西山派人士激烈反汪，他们一致借口武汉“联共”，要求以“叛逆罪”对汪派进行审判。胡等反汪，正中李宗仁下怀，被李作排斥汪的挡箭牌。
李宗仁在与汉方代表谭延闿、孙科交换意见时，提出要举行四中全会及组织政府必经邀请宁方离职赴沪之中执监委参加，方符宁汉合作之旨。
汪精卫、陈公博、顾孟余等一行抵宁，一下轮便觉察气氛不对，城中竟贴出不少反汪标语。汪等见势有异，立即装出十分诚恳之状，主动对自己防共过迟表示无限疚心，表白自己非图恋栈，实以负过太重，不能一走了事，拟促成南京四中全会，藉以补过。李宗仁不动声色。
9月8日，李宗仁、汪精卫开了个特别会议，决定由汪精卫到上海劝胡汉民来出席四中全会。汪明知是桂系出难题，也只好勉力去行。
李宗仁、汪精卫、朱培德、谭延闿、孙科、甘乃光一行抵沪。在沪报上公开表示：“尽可效法廉蔺，以诚意纠正既往，救济现在与将来。”并一再登门求见胡汉民。不料，3次访胡均被拒之门外。汪无奈，只好求助于李宗仁。
李见时机已到，乃由蔡元培出面，代表宁方提出两项建议：一是放弃法统观，不用第4次字样，混称执监联席会议，开创新局面；二是彻底清党，不许带共产色彩分子与会，尤对徐谦、陈公博、顾孟余为然。
汪对第一点表容纳，对第二点，汪辩护道：“顾陈对此次清党颇有助力，实属有功。”
但汉方谭延闿、孙科等自随李宗仁来宁后，早已同宁方打得火热，不再以汉方使命为然，对汪不作同情表示。汪四顾无援，勉强同意由谭延闿、孙科提出建议：宁、汉、沪各自推举其执监委员6人，候补委员3人，另三方共推出委员14人组织特别委员会，为临时最高中央权力机构，以统一党务。
这样便产生了特别委员会委员32人和候补委员9人，这个机构明显的是桂系人物和西山派占了优势，蒋、胡只是挂名委员而已，汪派干将陈公博、顾孟余等只能叨陪末座，当个候补生，即便如此，西山派人士仍未解恨，一再坚持与共产党关系密切之人，不能进入中央机构。
汪精卫方感一无油水可捞，非去不成局。乃以防范共产党过于迟缓，请求处分，引咎自责，同时以“患病”为托辞，同陈、顾等人一起悄然返汉。汪等一走，特委会中桂系和西山派声势更壮。
9月15日，国民党特别委员会在南京正式成立，同时由特委会改组了国民政府和军事委员会，名义上国民政府有46人组成，以谭延闿、胡汉民、蔡元培、李烈钧、汪精卫、于右任等人任常务委员会，轮流担任主席；军事委员会有66人组成，以程潜、何应钦、白崇禧为常委。而实际上，这两个委员会都不过是桂系手中的工具。谭延闿、李烈钧虽然出面领导政府工作，骨子里他们的一举一动都必须遵循李宗仁、白崇禧的意旨行事。军事委员会的情况也是如此，3个常务虽然把程潜放在首位，但因程潜的第六军已被蒋介石解散，新组织的部队不为人所重视，李、白只是利用程的老招牌发发通电，壮壮声势而已。何应钦虽然在蒋介石下野后拼命扩张实力，把第一军改编为第一、第九军两个军，提拔刘峙、顾祝同分任军长，以便控制，还把蒋介石的心腹陈诚调充军事委员会军务署署长，剥夺他的第21师师长实权，以消后患，但何应钦还是如同“泥菩萨过江”，自身难保，无力与桂系抗衡，也无权过问军事委员会的事。
李宗仁利用宁、汉、沪3方“党争”，跻身政坛，纵横捭阖，头角崭露，不仅使蒋、汪均钝其锐，而且在国民党政坛、军界发展起自己的势力。“新桂系”一词由是而起，声势日张，成为影响民国政局的一股重要力量。
汪精卫返回武汉后，即伙同拥有两湖军事实力的唐生智，打起“反对非法特委会”的旗号。唐生智拥有5个军的力量，在汪等去宁期间，他首先在两湖境内扫清了仅存的几支非唐系武装，而后向长江下游发展。当龙潭大战时，唐生智乘虚而入，以第35军军长为江左军指挥，36军军长为江右军指挥，率部沿江东下，占领了安庆、芜湖，将桂系驻皖军压迫出境。这样，唐生智已坐拥两湖和安徽3省。汪精卫与特委会破裂，正中唐生智下怀。唐乃拥汪自重，宣布“不受南京节制”，公然与特委会唱对台戏。
李、白对唐生智偷夺了“俎土肉”的安徽和拥汪自重，极为不满，必欲拔之而后快。但是，要对付手握10万重兵、且蓄意同自己一决雌雄的唐生智，须有一定的把握才行。于是，李宗仁利用特委会军事委员会的权力，酝酿对唐生智的武力讨伐，并设法在湘系军队中寻找反唐同盟军，除启用赵恒惕旧属叶开鑫、贺耀祖两部外，主要着力于争取颇有一定实力的谭延闿、程潜对讨唐的支持。
谭、程与唐素来不睦，谭此时又是特委会的要角，正要仰仗桂系鼎助，故愿主动为李宗仁与程潜合作牵线。程潜曾受唐生智排挤。他在汉重建为蒋拆散的第六军时，又受到唐的多方阻挠，一直积怨在心。程部兵士以湘籍为多，久存返归故里，以稳根基之心。李宗仁助程返湘，以主持湘政相许，颇使程潜动心。但程因在宁、汉分裂时所部曾被桂系部队缴械，对蒋、李都不能释怀。李宗仁看透了程的心思，向程赌咒发誓：“倒唐之后，如果拥蒋，将为天地神明所不容。”程遂慨然答应与桂系联手讨唐。
李宗仁为使出师有名，施出先礼后兵的手腕，先由谭延闿、孙科出面，向武汉发起谈判攻势，对汪、唐提出合作诸条件，遭唐坚决反对，谈判破裂。李便以特委会名义颁布了《中国国民党为讨伐唐生智告湘鄂皖民众书》，同时由军委会正式下达了“讨唐令”，西征军在李宗仁、程潜率领下，分左、右两路，沿长江南北岸向皖、鄂两地的唐军出击。
唐军在来势汹汹的西征军的攻击下，加上内有叛将，10余万大军不堪一击，一败再败。唐生智为保存实力，乃以“休息”为名，通电下野，并逃往日本，所部由何键、李品仙等率领，撤入湘境，相机行事。
李宗仁为取得讨唐全胜，率军向湘境进逼，白崇禧也赴湘挂帅，加上程潜、朱培德等部配合，退据湖南常德、沅陵之唐部复被压迫，势穷力蹙，败退衡州一线。李、白利用与唐部军人的老关系，多次派人去唐部军中接洽和平收编。唐部李品仙、刘兴、周斓在李保证留原建制，不予编散的条件下，联名发出“求和通电”。于是，李、白如愿以偿，唐部5个军全数收编，西征大获全胜。南京政府下令解散武汉政治分会，改设湘鄂临时政务委员会，以程潜为主席。
新桂系锋芒毕露，觊觎中枢的其他派系领袖心生不满。于是他们逐渐把攻击目标从蒋、汪等身上转向了李、白以及特委会。
汪精卫在唐生智败北时应张发奎邀请，从武汉到了广州。
张发奎向来奉汪为政治领袖。张部在共产党领导的南昌起义时受损严重，在汉又受唐生智排挤，被迫将武汉方面的第二方面军改为第4军，以追剿叶、贺部为名，离开江西，沿赣南下，驱返广东。
广东为李济深天下，李既是国民党中央政治会议广州分会主席，又是广东省政府主席兼第八路军总指挥，八路军由原第四军留守部队扩编。张发奎、黄琪翔等第四军将官为李济深多年部下，李对他们回粤不便拒绝，且存有重新收张部的打算，故在张部回粤之初李济深表示欢迎，并派陈可钰携款40万元前往接济。
不料，张部来粤后不服李的节制，不仅拒绝李要其出兵与黄绍竑、陈济棠部协同，阻截来粤中共起义部队的要求，反而要李济深疏远桂系，反对特委会。李济深同李宗仁等新桂系派领袖交谊素笃，有“半个桂系”之称。张发奎专以桂系为攻击对象，不免使李济深十分尴尬。加上张部根本不把李济深这个老长官放在眼里，军事、财政、人事上的冲突不断发生。李济深唯恐鹊巢鸠占，失去了广东地盘，乃以老上司的身份主动提出，愿给张发奎港币5万元，要张出洋远游，同时制造礼送汪派出粤的舆论。李济深又将反对汪派最烈、与张发奎又有所不合的陈铭枢由日本邀请回国，到福州再统军队，还特地电陈，邀其“回粤休养”。这一来，张发奎与李济深的关系陡然紧张。
正当李、张不睦加深之时，蒋介石于11月10日从日本回到上海。
蒋介石下野之后，在上海、溪口各住了一段时间，并进行了频繁的活动，在欢迎会上发表演说、答记者问、发表《谢客启事》、《告别黄埔同学书》等等，他们自己说成是为民众谋幸福，为党国谋利益的英雄。“中正别无他愿，望桑梓升平，诸父老兄弟皆得安居乐业，是中正之厚望也。”“余以为英雄者也，常以失败而终。大凡英雄与革命家，似皆以失败而成其价值。一经成功，则为平凡无奇。但使正气存留，则雄图虽归失败，亦无所怨，吾固常作是想者也。”蒋介石还透露他将规划同宋美龄结婚之事，为此已同元配正式离婚。
9月29日，蒋介石携带张群、宋子文、宋美龄及副官孟超然、机要秘书陈舜耕等离开上海去日本。蒋宣称：“余之友人居日者甚多，欲乘此闲暇之机会，重温旧好，并愿藉与日本诸名流相晋接。”
蒋介石在日本周游各地，并研究了日本国情及对华政策，发表了《告日本国民书》，呼吁中日亲善：“吾人今后努力亲善工作，首当扫除国民间从前之误会与恶感，以及亲善障碍之军阀，并切望日本七千万同文同种之民族，将于我中国革命运动彻底了解，而予以道德及精神上之援助，是实为我革命进行莫大之助力，亦即我两国根本亲善之良谟也。”蒋介石为取得日本政府的支持，以助他重新上台，便通过日本黑龙会首领头山满，与日本首相田中义一、陆军大臣向川义则、参谋总长金井范三及参谋次长南次郎进行秘密商谈。
田中义一向蒋介石提出先决条件：一为蒋必须反共；二为蒋必须不牺牲日本在华之权利；三为蒋先行巩固南方。蒋介石一一答应，并把田中义一作为“前辈”看待。日本借予蒋介石4000万日元，以助蒋安定中国后，中、日两国进行经济合作等项。蒋介石遂挟巨资返国，以图东山再起。
蒋介石在日本活动期间，张静江、李石曾一再从国内去电促请回国，汪精卫也专电请蒋即刻归国。蒋在复汪精卫函中表示：“此后党国重任，惟兄是赖，弟虽远游，而实神驰党国。凡能与党国有益，则弟无论在何地何时，必尽我心力，依照兄之意图，不渝始终，以尽区区之意。”
蒋介石自日本回到上海，即开始为复职四下活动。蒋之嫡系也因受桂系压抑，急不可耐地盼蒋复出。北方冯玉祥、阎锡山连连发电，呼吁要蒋复出，甚至有些原来对蒋下台弹冠相庆的特别委员会委员，也一转其反蒋姿态。谭延闿、孙科等以南京国民政府名义发表通电称蒋：“受命北伐以来，身经百战，卓著奇勋，不以逆亿纷来，而稍丧其护党之心。”谓“党部政府一致决议，派员敦促其返旆。”蒋下野还不到半年，局势几乎翻了个个，蒋原来受各方攻击，现在却是颂扬声一片。促蒋复职之官电，满载于上海各报，恍如北方军阀出山之故事。
蒋介石复职的大障碍是桂系和西山派控制的特别委员会。于是，蒋便动手推倒特别委员会，他派妻弟宋子文去广州与汪精卫会晤，宋告汪：“蒋等不忍坐视党之紊乱，故托其携亲函、劝公共出维持。”汪、蒋在宁、汉对立时不共戴天之仇敌，如今因遭桂系排斥，被迫在野，同病相怜，竟携起手来，决定在上海召开四中全会预备会议。
汪精卫邀李济深一起去上海参加会议。李济深虽对离粤不甚放心，却也想乘此机会把汪精卫等支出广州。他想将粤省军政要务临时托付给黄绍竑，便急电在桂的黄绍竑来粤。由于汪等催促很急，黄赶来与李匆匆一面，未及多谈而别。
汪、李启程去沪，逗留在港的张发奎悄悄潜回广州，是夜，在张的指挥下，黄琪翔、薛岳等部包围了黄绍竑在广州吉祥路的寓所。幸黄绍竑在事发前得到密报，只身潜逃，但广州附近虎门、江门等处的桂军悉被缴械。次日晨，广州街头到处张贴出“打倒桂系军阀！”“欢送李济深！”“反对南京特委会”、“拥护汪精卫”等大标语。
张发奎又以广州军委代理主席名义，任命顾孟余为广州政治分会主席，陈公博为广东省代理主席，还通电谴责桂系军阀，要求解除李济深一切军事职务，推翻和惩办广西将领李宗仁等。
此事变一出，宁、沪大哗。李济深知道受骗，恨恨不已。
12月3日，四中全会预备会议在上海召开。李宗仁等便在会上提出弹劾汪精卫、顾孟余、陈公博案，指控他们对广州事变有主使嫌疑。汪精卫等则指责桂系把持特委会，蒋介石恐趋于决裂，发出洋洋长篇“致各委员书”。汪派为保存自己，急不可耐地抢先抛出《请蒋复任国民革命军总司令案》。在预备会期间，蒋、李、汪施展三角斗法。但李宗仁力不能逮，《请蒋复职案》获得正式通过，并决定取消特委会和军事常委会。但蒋介石又同意李宗仁等《关于处分汪等九委员提案》，并同意四中全会将在宁召开。