蒋介石下野后，以桂系和西山会议派为主组成的南京政府由于把程潜和朱培德的部队争取了过来，所以很快就打败了唐生智的军队，唐生智宣布下野，到日本“休息”去了。1927年门月15日，南京政府的军队占领了武汉。
汪精卫此时跑到广州，拼命拉拢张发奎的第四军，并召开了同汪精卫、李济深、陈树等主持的广州国民党中央委员会成立大会，同时宣布“国民政府”在广州再行设置。这样，宁、汉对立刚刚结束，宁粤对立的局面又出现了。
蒋介石回到上海后，审时度势，认为他夺回权力的首要问题是应当先解决南京的国民党中央特别委员会。因为这个“特委会”的成员大都是西山会议的元老，加上桂系的军队，成为蒋介石复职的最大障碍。所以蒋介石一回上海，立即请汪精卫赴沪“讨论党政统一问题”。11月11日，汪精卫在广州发表演说，表示愿意与蒋合作。蒋介石的策略很明显，他是抓住了主要矛盾，首先联合汪精卫打击南京的特委会。
南京方面也怕蒋、汪联手对付他们，于是提出建议，意欲由宁、粤、蒋三方在上海举行国民党二届四中全会预备会。
11月15日，汪精卫从广州启程赴沪参加二届四中全会预备会，并力劝李济深与他同行。实际上这是汪精卫施的“调虎离山”计。汪精卫与张发奎的第四军到广东后，总想伺机将执掌广州军政大权的李济深赶走，以便占领两广，只是苦于找不到适当的机会。这次蒋介石电邀请，汪精卫赴沪开会，南京方面的谭延阎、孙科等也致电邀请，汪精卫遂与张发奎密谋，计划将李济深诱出广州，然后实行政变。果然，汪、李二还未到达上海，就传来了张发奎发动政变的消息。
宁、粤双方都争先向蒋介石靠拢，蒋介石当然非常高兴。南京方面虽然表面上是由桂系和西山会议派共同执掌权柄，但实际上是桂系代表物李宗仁、白崇禧在操纵大局，谭延阎、李烈钧。孙科等不过是桂系手中的工具而已，因此也有不少矛盾；而广东方面又“后院起火”，汪精卫虽然成攻地策动了张发奎的政变，但宁、沪两方却又攻击他“勾结共产党”在广州发动武装叛变。因为在此之前，因为张发奎的部队里共产党员很多，所以共产党于8月1日发动了南昌起义，打响了武装反抗国民党的第一枪。所以，这一次又是张发奎的部队发动政变，就很容易给宁、沪两方攻击汪精卫制造口实。蒋介石面对如此混乱的场面，心中窃喜。他现在正好处于超然物外的地位，宁、粤双方都向他求援，他大可坐收渔利了。此时期内，张作霖乘国民党内部你争我夺的混战之机，曾大举进攻冯玉祥和阎锡山，冯、阎二吃不住劲，也通电请蒋介石复职。局势的发展对蒋介石越发有利了。
l月22日，南京方面举行“庆祝讨唐（生智）胜利大会，”会上有发表演说，提出了“打倒西山会议派”的口号。会后游行，当游行队伍至复成桥时，突然间枪声大作，当场击毙4，伤20余，凶手逃逸无踪。事后，们纷纷指控这次惨案是西山派成员葛建时一手制造的，由此发起“征讨”西山会议派的浪潮。其实，这一惨案正是蒋介石一手导演的。他利用这一事件使西山会议派变成众矢之的，搞得他们声名狼藉，威信扫地，从此失去了一切发言权。
12月3日，国民党二届四中全会预备会在上海召开，由于蒋介石制造的“ 11·22”惨案使西山会议派失去了发言权，所以，会方中心成为汪派与反汪派的一场混战。桂系的南京政府以张发奎在广州兵变为口实，攻击汪精卫勾结共产党，赏了他一顶红帽子；汪精卫为了摆脱孤立地位，急于讨好蒋介石，抢先在会议上提出：“惟有请预备会议即日催促蒋介石同志继续执行国民革命军总司令职权，才是解决党务、政务、军事问题的当务之急”。李宗仁也不甘落后，立即向报界发表声明，指责汪精卫反复无常，而自己一贯是拥护蒋介石的。宁、粤双方尽管鸡吵鹅斗，却又一致公推蒋介石复职，于是，这次预备会议通过了蒋介石复职的决议，蒋介石成功地利用了各派系之间的重重矛盾，为自己复职扫除了障碍。
1928年1月4日，蒋介石到了南京。7日他发表了《总司令复职时致国民政府电》，称：“中正叠受各级党部及各军将士之敦促，政府与民众之督责，以北伐大业急待完成，仍令出负艰巨，爱于支日驰抵首都，继续执行中央所赋予之国民革命军总司令职权，专司军令，藉戎利机，谨电奉陈，唯冀垂察。”9日又发表了《致各军全体武装同志电》、《致全党同志全国同胞电》和《致冯阎杨三总司令电》，表示这次重新上台后，将“以全力完成北伐，肃清共逆，以安后方，巩固中央。”
蒋介石宣布复职之前的1927年12月11日，中央广东省委书记张太雷和叶挺、恽代英、叶剑英、杨殷、周文雍、聂荣臻等乘粤桂阀混战、粤军主力离穗之机，领导国民革命军第四军教导团和广州工起义，建立了广州苏维埃政府。可惜，由于起义部队未能及时转入农村，在敌优势兵力的猖狂反扑下，起义归于失败。张太雷英勇牺牲，部分武装转移到海丰、广西等地农村。
广州起义后，南京政府继续把“红帽子”往汪精卫头上扣，说他指使张发奎“纵容”共产党举行暴动，吴稚晖还大骂汪精卫是“准共产党”。汪精卫弄巧成拙，原以为同蒋介石合作能捞到一点实惠，没想到一下子处于内外夹攻的孤立境地，甚至面临被桂系暗杀的危险。这时，蒋介石认为时机已到，便劝告汪精卫为了安全起见暂离上海。汪精卫无奈，只得再次亡命法国。
汪精卫一走，蒋介石立即竭力袒护和拉拢汪精卫派系的粤方委员，以此抗衡胡汉民为首的右派集团。胡汉民等认为无法与蒋介石合作，遂宣称不参加国民党二届四中全会。1928年1月25日，胡汉民、孙科、伍朝枢等以出国考察为名离开上海，到海外远游去了。
驱汪逐胡成功，蒋介石的两名主要政治对手被赶走之后，1928年2月，国民党二届四中全会在南京正式召开，蒋介石一手操纵的会议。会议通过了戴季陶起草的四中全会宣言，宣言中攻击共产主义运动是“民族独立运动之大敌。”
l月8日，国民政府特任蒋介石为国民革命军总司令。2月23日，国民党中央党务委员会推蒋介石为组织部长。3月7日又推他为中央政治会议主席。至此，党政军大权又一次集中在蒋介石手中。
蒋介石再次上台后，为了避免“军事独裁”之嫌，特在南京中央政治会议上提议在广州、武汉、开封、太原设四个政治分会，分别由李济深、李宗仁、冯玉祥、阎锡山任政治分会主席。由于冯玉祥和阎锡山通电吁请蒋介石复职，在政治上他们已倒向蒋介石的南京政府，因此，南京政府在长江流域及西北和华北的河南、山西等省统一了政令，只剩下奉系张作霖控制的地盘尚未归青天白日旗下。
鉴于此，国民党二届四中全会决定集中力量，限期完成北伐大业，以消灭奉、鲁军阀为目的，意欲肃清直、鲁、热、察、绥等省区内的军阀武装，彻底实现所谓的“全国统一。”
为了进一步笼络新归麾下的诸侯，蒋介石又祭起了惯用的法宝--结义。他委托部力子向冯玉祥表示想同冯“义结金兰”的意思，冯玉祥则答说：“只要对革命有利就行。”
邵力子将冯玉祥的态度立即告诉了蒋介石，蒋介石十分高兴，急忙亲笔写了兰谱，送交冯玉祥，那帖子上写着的是：
籍贯：浙江奉化武岭
年岁：四十二，生于丁亥年九月十五日
父讳：肇聪 母王氏
安危共仗，甘苦同尝，海枯石烂，死生不渝。
敬奉焕章如胞兄惠存。
十七年二月十八日
谱弟 蒋中正谨订
冯玉祥亲笔写了兰谱送与蒋介石，兰谱写道：
藉贯：安徽巢县竹柯村
年岁：四十七，生于壬午年九月二十六日
父讳 有茂 母谢氏
敬奉介石如胞弟惠存
十七年二月十八日
谱兄 冯玉祥谨订
两换了贴，相互拜了几拜，从此就算是“兄弟”手足了。蒋介石为了让冯、阎等在战场上多出力，遂将冯玉祥的西北军编为第二集团军，冯玉祥为总司令；将阎锡山的部队编为第三集团军，阎任总司令。
1928年3月31日，蒋介石率部渡江北伐。4月7日，蒋介石发表《渡江北伐誓师通电》，声称：“党国存亡，主义成败。”
4月中旬，北伐各路集团军发起总攻。在北伐部队的强大攻势下，孙传芳于6月3日宣布下野，所部归郑俊彦统率，向国民革命军投诚。6月8日，国民革命军占领北京。至此，第二次北伐在军事上告一段落。但是，索绕在蒋介石心头的，还有一块乌云，这就是山海关外的“胡子”出身的奉系军阀首领张作霖及其统治了几十年之久的东北地区。
孔传芳下野后的第二天，张作霖也不敢留居北京了，他带领一批文官武将出关返回奉天。不料日本已决心除掉这个不肯继续为其效力的傀儡，预先在皇姑屯埋下炸药，将张作霖炸死在火车上。
张作霖被炸死后，奉系核心内部一直隐瞒死讯。当时张学良正率部在邯郸与阎锡山交战，直到他秘密潜回沈阳，才正式宣布张作霖因伤势过重不治而亡，同时，张学良宣布担任东北三省保安司令。
张作霖一死，日本当局和南京政府都派到东北进行活动。日本方面在鼓动张学良宣布独立，南京方面则积极争取张学良，和平解决东北问题。
张学良面对日本政府的威逼利诱，表现了一个中国军的气节。在同日方代表的谈判中，张学良说：“我是中国，所以我的想法当然是以中国为本位；我之所以愿与国民政府妥协，是要完成中国统一，实行分治合作，以实现东三省一般民所渴望的事。”他拒绝了日本的条件，派邢士廉为代表，由海路赴北平，向蒋介石表示“愿输诚归降，并请商统一办法。”
蒋介石闻报大喜，东北一定，统一大业就算完成了！可惜，事情远非他想的那样乐观。当北伐节节胜利、克复北京后，蒋介石就曾忧虑各派新军阀在北伐中坐大，主张“裁兵善后，”此议一出，冯玉祥、阎锡山等都想乘机扩大自己的地盘，因此，蒋介石很快就从张学良归降的喜悦中冷静下来，旋即昔日那些担心的隐患又扑心头。他一边踱步，一边小声自语：“张学良易帜的结果是喜还忧？甚至是喜忧参半？”
在蒋介石未来的棋盘上，张学良这颗棋子可是举足轻重的。张学良若是真的臣服于他的麾下，这时于他的军事实力无疑是一个极大的扩充。一旦阎锡山和冯玉祥在华北兴兵，都不能不考虑东北军摔然出兵关；然而，张学良万一失败了呢？这后果又是明摆着的……如何保证张学良顺利完成易帜，这正是他急切要和谋士张群相商的。
张群不负蒋介石所望，很快扫去了布在蒋介石心头的疑云，并提出了如下行之有效的计划：1．为了稳定张学良的易帜决心，以及易帜后臣服于蒋介石，南京国民党政府任命张学良为东北边防总司令在．蒋介石亲自派出高级代表携带青天白日满地红旗帜和总理遗嘱赴奉天，举行隆重的易帜典礼；3．为巩固张学良易帜后的政权，设法制造矛盾，帮助张学良消灭身边的亲日势力。
蒋介石喜不自禁地微笑着，望着稳坐钓鱼台的张群，热情地说：“岳军兄，你看谁能担此任呢？”
张群懂得蒋介石的话的意思，所以一改平素那直言相陈的性格，故作谦虚地说：“承办这样重大事件的选，你心中早就选定了，何必再征询我的意见呢！”
“那好，我就说吧！”蒋介石有意沉吟了片刻，“我思之良久，承办这样重大事件的选，非岳军兄莫属！”
“那我只好从命了！”张群欣然应允，但一想到此行责任重大，复又为难地说，“为了确保主席的宏图得以实现，我建议再增加两位德高望重的同志前往，遇事尚可临机协商处置。”
“此话有理！”蒋介石微微地点了点头，“你看谁和你同行为好啊？”
“方本仁和吴铁城。”
“我看还可以增派一位元老李石曾，他和奉系的要有着千丝万缕的联系。”
张群赞同地点了点头。
一岳军兄广蒋介石格外深沉地说，“此行易帜不难，重要的是完成计划中的第三条：设法制造矛盾，帮助张学良消灭左右的亲日势力。
正如蒋介石所估计的那样，张学良一如所诺，不顾日本的反对，排除了杨宇霆的干扰，一俟张群所率领的南京代表团抵达奉天以后，毅然决定于1928年12月29日易职。他双手接过青天白日旗，亲自率领东北的文武百官列队站在帅府门前，目视悬挂多年的红黄蓝白黑五色旗徐徐降下，又目送青天白日旗冉冉升起。为加强张学良的势力，张群私下会晤这位大权在握的少师，几经密商，决定任命张作相为东北边防军驻吉副司令，万福麟为东北边防军驻黑副司令。张学良在就任东北边防军司令长官的典礼上，首次穿上定做的中山装，率部走到孙中山先生的遗像前，举起紧握拳头的右手，在方本仁和刘光的监督下向总理遗像宣誓。在庄重的氛围中实现了东北与全国的统一。
然而，令张群疑虑不安的是，他在日本士官学校的校友杨宇霆的脸上密布着一层浓云，没有一丝一毫喜庆的表示。当天晚上，张学良设宴庆祝易帜大典，杨宇霆又借口有事，偕同常荫槐中途退场。张群唯恐有变，连夜请何成浚、何千里等到自己的下榻处密商对策。
何成浚先介绍说：杨宇霆坚持亲日的路线，曾数次阻止张学良易帜。据说在一次双方摊牌的会议中，杨宇霆耻高气扬地对张学良说：“你走你的中央路线，我走我的日本路线，两宝总有一宝押中，不是很好吗？张学良为之愕然，当即反问：“如果是你的那一宝押中了呢？”对此，杨宇霆瞠目不知所对。事后，他又对常荫槐等愤愤地说：“小六子这个阿斗羽毛未丰，就想冲天，我看他能飞到那里去？”
何千里接着又介绍说：“杨宇霆为了发泄对张学良的将军的不满，决定于明年元月7日为其父庆祝70岁生日。他的法库同乡好友李友兰知道此举易遭嫉，于杨不利，主动地对杨说：“老太爷办寿，可以回法库去办，你如同意，由我主持一切。”杨坚决不允，并发出狂言：“我要大张旗鼓地办，请全国各路诸侯来沈阳为父作寿，让这个阿斗看看，是谁的声望高！”何千里说罢，与何成浚都取出了应邀为杨的父亲祝寿的大红请柬。
何成浚又报告说：张学良愿意让杨宇霆当黑龙江省主席，以为疏远之计；但杨宇霆拒绝，只好改换了常荫槐。此二为加强自己力量，借设立“黑省山林警备队”之名，扩编数万部队。据说端纳细心查访，获悉杨宇霆向捷克订购了三万步枪。他将来往的电报，以及常荫槐自铁路收入中付款的凭据一并交给了张学良。
张群听后一怔，觉得这条消息非同寻常，他暗自沉思了片刻，严肃地问：“对此，张学良作何反应？”
“他当即找了杨宇霆，质问：咱们兵工厂不是有的是步枪吗？”何成浚知道。
“杨宇霆又是怎样回答的呢？”张群追问。“他承认其事，并说没有家的好啊！”何成浚又答道。
张群感到张学良和杨宇霆之间的矛盾已经无法调和了。从某种意义上来说：谁先下手谁就是胜利者，即“先下手为强后下手遭殃”。为了推动和促使张学良早下决心除掉杨宇霆，他们又把突破口选在了杨宇霆正在准备为其父办七十大寿这件事上……。
杨宇霆的公馆，位于小河沿附近的青云寺胡同。为了借助排排场场的祝寿活动来发泄其夺权的野心，杨宇霆沿街巷张灯结彩，锣鼓喧天，声乐齐鸣，真可谓是各路英雄好汉齐聚会，孙传芳、锗玉等前来祝寿送礼不足为奇，令注目的是，白崇禧的代表叶棋、唐生智的代表叶开台，以及前来庆典易帜的张群、李石曾、吴铁城、方本仁、何成浚、何千里等也携带重礼来凑热闹；至于辽宁、吉林、黑龙江、热河四省的文武百官几乎无一不到……这无疑又在张学良沉重而愤激的心上捅了一刀！
1月7日上午，张学良起床后，在院内散步回到屋内刚刚用过早点，正准备更换礼服、准备彩礼，为杨宇霆的父亲祝寿去，他的副官谭海一步闯了进来，没头没脑地报告说：“总司令！您还要去为他祝寿！您如果再不发火，弟兄们就都造反了！”
“怎么啦？发生了什么事情？天塌不下来，有话慢慢地说嘛。你们听到了什么？弟兄们有什么议论。”张学良不慌不忙地说。
“您可真沉得住气！”接着谭海讲了杨公馆达官贵纷纷前来祝寿，真是贺客盈门，大元帅府无问津，以及听来的有关杨宇霆，常荫槐图谋不轨，大有取张学良而代之的风声说了一遍，最后，谭海又非常气愤地说：“家都把屠刀架在我们脖子上，可您总司令还说什么仇家是好，不会有异心的！”
张学良听了后，一言没发，只是在屋子走来走去，看得出来他的脸色沉重，张学良的内心何尝不矛盾，心情何尝不激动痛苦！但真的要动手除掉心头之患即有异心的杨宇霆、常荫槐这些父执辈的老将，而且又是一起戎马多年的同事，决心也不是轻意那么好下的。况且还有一位善良的夫于风至扯后腿呢！作为一个政治家，他懂得这种事绝不能扩散，不能有一丝一毫的大意，不能叫旁看出任何点滴破绽，假如一时不慎，万一传到杨宇霆和常荫槐这些的耳朵里，事情就会起变化。就会发生难以预料甚至不堪设想的后果。
张学良沉思后极其严厉地说：“你这是无中生有胡说八道！再胡说我就关你的禁闭！你赶快传我的命令，如果再有议论此事者，杀无赦！”
谭海听了完全惊呆了，一时不知该说什么好。张学良向他走近一步，并又语意双关地说：“告诉弟兄们从现在起，你们都要只听从我一个的命令。要记牢，快些下去吧！”
谭海若有所思地想了想，转身退了下去。过了一会，他又走进来报告说：“总司令！辅帅到了。”
所谓辅帅，就是张学良的老把叔张作相。他对张作霖最忠心耿耿，对张学良也最尊敬，他毫无当官弄权的欲望，一心只想辅佐张学良承继大业，发扬光大，对得起死去的盟兄张作霖。但是，今天张学良有些疑惑，心想，老把叔今天理应到杨公馆去祝寿，为什么来这里看望我呢！难道他得到什么消息，或者有什么机密大事相告吗？张学良急忙换上礼服，和于凤至一起迎出门楼，他们夫妇一挽着张作相的一只胳膊，显得极为亲热地将张作相挽进了客厅。落座后，于凤至敬上香茗以后，张学良谦恭地说：
“辅帅莅临，一定有大事指教侄儿。”
“汉卿啊！”张作相呼嘘长叹了一声，旋即讲出他和常荫槐等一起去杨公馆拜寿，杨宇霆在闲谈之中直呼张学良的乳名小六子，并恶意中伤，称之为阿斗。更有甚者是其高谈东北前途，实堪忧虑。他再次愤慨地叹了口气：“司马昭之心哟--路皆知！他的用意，还不清清楚楚吗？”
东北的高级将领，无不知晓张学良重礼仪，彼此的称谓是很有说道的。
张学良称夫于凤至为“老大姐”，于夫称他为“小爷”。他要求部属只称他不同时期的职务；而父执辈的重臣叫他汉卿，直呼他乳名“小六子”的只张作霖一个，其他谁也不敢。今天，杨宇霆不仅当众叫他“小六子”，而且还以“阿斗”视之，他怎能不顿生怒火呢！时代不愧是造就才的学校。半年多来，他已经由血气方刚的青年将军，自我陶冶成一位善于控制情感的政治家了。他清楚地知道，时下的主要矛盾，不是称谓这类的小事，而是有没有和杨宇霆呼应，甚至兴风作浪。他低沉地问：“常荫槐这些，当时又作何表现呢？”
“他毫无顾忌地说：‘依我之见，咱们明天都捧杨宇霆吧！”’
张作相扫了一眼张学良那震怒不已的表情，“我听后大惊，应付了几句，就驱车赶到你这儿来了。”
张学良习惯地背剪起双手，眉宇紧整地凝视前方，许久没有说一句话。
张作相毕竟是戎马半生的老军，他走到张学良的面前，低声说：害之心不可有，防之心不可无啊！”
张学良深沉地点了点头。
面对这严酷的现实，于凤至那颗善良的心犹如被捅了一刀，自知其痛，却没有解决的办法。这时，院外传来了春节前夕孩子们放鞭炮的响声，她想到了杨公馆祝寿的热闹的场面，犹豫不决地问：“小爷！我们还去杨府拜寿吗？”
“要去！”张学良的脸上突然闪现出了冷漠的笑颜，“而且还要备一份厚礼！”
张学良为探明虚实，偕夫于风至来到杨公馆拜寿。正如当事记述的那样：“小河沿车水马龙，盛况为沈阳向所未有。蒋介石、白崇禧、阎锡山以及广东、四川等地方实力派，都派有代表来沈阳祝贺。日本政界要也派有代表前来。东北地主官吏不消说了。庆寿之日，张学良前往祝寿。杨以普通礼节相待，与一般宾客无异。不仅杨之一举一动傲然以东北第一领袖自居，来自全国各地的贺客们，对杨亦恭维备至，谈杨是东北众望所归的物。张目睹这些情景，岂能所堪？当日观剧席上，张始终以手支颌，若有所思，其心情之苦闷，可想而知。”或许是触景生情的缘故吧，他再次想起了林汉男爵说的这段话：“今天的东北实际情况，同我们日本当年幕府时期德川家康时代很相似。”事后，张学良曾向友讲：“当时我也参加了祝寿，不断在想，假如杨、常取我而代之，可以兵不血刃掌握东北政权，莫非林汉说的就是这种情景吗？我应该怎样来自处呢！我是等待如秀吉之子那样为德川所杀呢，还是先把他除掉……”
下午张群等又赶往大帅府，经一番谋划，正式成立东北政务委员会，把张学良推上了主席的宝座。但这并没有给张学良带来丝毫的欢欣。除去杨宇霆、常荫槐等凯觎他手中的军政大权之外，日本也不甘心阻止“易帜”的失败，以强硬的外交手段，要张学良承担其父生前签署的一切密约，尤其是由杨宇霆私自秘密签署的所谓修建满蒙新五路的要求。对此，张学良大伤脑筋。翌日深夜，端纳悄悄地走进大帅府，诡秘地问：“汉卿！”听说野武马顾问到了奉天，他来拜会过你吗？”
张学良忧心忡忡地摇了摇头。
“他在杨公馆可是整整地呆了一天啦，这你都清楚吧？”张学良分外沉重地点了点头。
“你晓得叶野顾问此行的目的吗？”
“估计是为满蒙新五条路线的修建而来。”
“这样重大的外交问题，谁授权杨宇霆代表贵国政府和叶野谈判的？”
“据我所知，他满口答应了叶野的要求。”端纳望着沉默不语的毫无表情的张学良，愤慨地质问：“他为何敢于如此大胆公然越权行事？”
张学良对端纳的所谓忠诚感到非常欣慰，遗憾的是他并不知道端纳接连数次来告密的目的。经过了多年之后，台岛的历史小说大家高扬先生曾经撰文披露了真像，端纳告密的原因有两个：一则他在职务上应该忠于张学良，二则是端纳虽然是澳洲，但是，他是为英国服务的高级情报员，而英国与日本在华利益，早就有利害冲突，杨宇霆一向和日本勾结，走的是日本的路线，对于美国有不利的因素，而英美在华利益是有某种默契的，所以端纳必须跟他作对。”
l月10日上午，叶野武马大摇大摆地走进了大帅的府邸，见到张学良后就先为主地说：“汉卿！邻葛已经同意履行建设满蒙新五路的许诺，你看怎么样？你有什么高见？”
张学良听罢后，火气不打一处来，为了给这个盛气凌的叶野武马一点颜色看看，他神态严肃地站起身来，背剪双手，颇有风度地踱着方步，走来走去，许久没有回答叶野武马的问话。
“汉卿！”叶野武马不知张学良的心思，有点沉不着气了，“你有什么为难之处吗？”
“没有？”张不良猝然止步，又加重口气地补充说，“一点也没有！”
“那你……”
“我不明白，你叶野顾问为什么会有这样的问话。”张学良瞥了一眼叶野武马，“你是一位老外交家了，应该清楚平常的外交手续吧？”
叶野武马误以为张学良在挑他的礼--为何不先来拜访他，遂佯作笑态地说：“汉卿！原来这件事情是邻葛经手办理的，我想先探问一下他的态度，也就明白了你的意向。”
“你全然想错了！在这件事情上，他不能代表我！而我也没想也无权和你谈判。”张学良态度平和而又大义凛然地说。
“那……”叶野武马很快从惊恐中醒来，“请直言相告：我的谈判对手是谁？”
张学良义正词严地说：“是南京国民政府！”
“啊……？”
“请你看看这份国府的文告广张学良转身取来备放好的文件，“上边写的清楚，中央主持外事，一切协定合同，非有国府参加，不能生效。我已宣布易帜，无权和贵国洽谈这类大事了。”
叶野武马气得鼓鼓的，歇斯底里地说了一句：“我找邻葛去！”转身拂袖而去。
当时下午，杨宇霆和常荫槐相偕来见张学良，不仅为修建所谓满蒙新五路一事兴师问罪，而且还强硬地提出成立东北铁路督办公署，以常荫槐为督办。张学良当即表示，目前东北甫经安定，涉及外交之事应该慎重考虑，不能草率行事，须从长计议。杨、常则坚持即刻决定，并取出已经写好的便条，要张签字。张最后推托说现在已经到晚饭时间，容待饭后再作决定，并留杨、常共进晚餐。杨表示临来之时，已告诉家里回去用饭，还是回去吃过饭再来吧。于是杨、常辞去。张学良痴痴地位立室中，久久不语。过了一会儿，他突然仰脸大笑，然后命谭海找来了亲信高纪毅、王以哲、刘多筌，首次公开提出了处决杨、常的想法。谭海等早就气得跃跃欲试了，因则一拍即合。其中高纪毅说：“杀的事，说办就办，说办不办，必有后患。”因此更加坚定了张学良的决心。他当即果断地命令：“就定在今天晚上。下边，再研究一下具体的措施，以及善后事宜的处理。”
关于处决杨宇霆和常荫槐的过程，历来有各种传说。据当事高纪毅的回忆，当时情形是这样的：
他们走后，张立刻用电话召我进府，这时已是下午五点半钟。我进府立被张召入内室，他从容不迫地向我说：“杨宇霆、常荫槐二欺我太甚，他们想尽办法，阻挠全国统一，今天又来强迫我成立东北铁路督办公署，并要发表常荫槐为铁路督办，说是为的能管理中东铁路。事关同苏联的外交问题，这事要办也应该请示南京，从长计议。但他们要我立刻签字发表，太不象话了。现在他们正在回去吃饭，少刻就会回来。我给你命令，立刻将他二处死，你率领卫士去执行好了！”我接受命令后，请示应在何处执行。张指示说：就在老虎厅内执行，并以轻松的语气嘱咐我说：“你可要小心，他们二身边都带有手枪。”于是我配备6名卫士，由我同张的侍卫副官谭海率领，另由刘多筌担任府内外警卫任务，只许进来，不许出去（刘当时仅知将有大事，但并不知要处死杨、常。一切布置完竣，经过两个多小时，杨、常来到，径入老虎厅就座。我同谭海率领六名卫士持手枪进入老虎厅，立即对杨、常宣布说：“奉长官命令，你们两阻挠国家统一，着将二位处死，即刻执行。”杨、常闻言，顿时木然，脸色惨白，一句话也没说出，当即由六名卫士分为两组执行。杨、常二分别被两名卫士按住，一名卫士开枪，结果了性命，当夜陈尸老虎厅内。
张学良接着指示处理善后步骤，一面连夜以长途电话指示驻天津代表胡若愚，要他立刻向南京蒋介石报告处死杨。常的原因和经过，一面用文字写成军法会审形式，罪名是“妨碍统一，阻挠新政”，检查官由我署名。我率彻夜工作，通宵未眠。翌晨天还未明，张学良召集张作相、翟文选、王树翰、臧式毅、郑谦、孙传芳等东北保安委员会委员进府，宣布此事经过。这些乍闻之下，惊愕万状，面面相觑。同时张又嘱郑谦在另室草拟电报，正式报告南京，并昭告东北各县市。郑谦是杨宇霆的亲信，提起笔来只是摇头沉吟，一个字也写不出来。过了片刻，他将笔丢下，起身要走。我严肃的警告他说：“从现在起没有我的命令，任何都不能离开。”他只得重又坐下，呆然不动，但仍未动笔。最后还是改由刘鸣九执笔，将电报稿拟好。这时始将杨、常尸体从老虎厅用地毯包裹抬出，用汽车送到南头风雨台姜庙（杨宇霆为纪念姜登选修的庙）装棺，听由他们家亲友吊祭。杨、常被杀的消息传出以后，顿时震动了沈阳全城……。
与此同时，张学良为慑服杨宇霆的派系势力，运用恩威并济的策略，除优抚家属之外，还亲自写了一副挽联：“瞩目西蜀偏安，总为幼常挥痛泪；凄绝东山霖雨，终怜管叔误流言。”上联比之于诸葛亮挥泪斩马俊，下联引用周公旦诛叔之典故，借以表达其复杂的情感。
翌日，张学良领衔发表了震惊中外的通电，全文如下：
统一告成，建设开始，凡我同志，正宜和衷共济，协力图功。学良受事以来，对于先旧有僚佐，无不推心置腹，虚衷延纳，其中尤以东三省兵工厂督办杨宇霆，黑龙江省长常荫槐二，共事最久，倚界尤殷。乃杨、常朋比，操纵把持，致使一切政务，受其牵制，各事无从进行，肿其罪状，厥有数端：溯自民国13年后屡次战祸，均由彼二纵恿播弄而成，迹其阴谋私计，世或未知，自我先大元帅，佳电息争，倡导和平，信使往来，南北协洽，独彼二退回观望，阴事阻挠，近如滦东五县，不肯交还，其阻挠者一；平奉车辆，学良已商允交还，惟被二从中作梗不放行，坐使中外士，咸受苦痛，而车辆废置破坏，公私损失，何可纪极，其阻挠者二；滦东撤兵，顺应世局，正协心，而杨、常坚持异议，其阻挠者三。以上三端，学良曾再三婉商之；借友劝导之；用命令申斥之，而彼二概置不理，使中外士，对于我方不怀好感。现远因则酿成战祸之罪魁；观近因则破坏和平之祸首，论其罪状，不独害我东省，实害我中华。学良夙夜警惕，和冀奠我三省于磐石之安，勿令再有军事行动，谋工商之发达，谋中外居民之幸福，使吾乡父老子弟，安居乐业，耿耿之诚，可质天日。乃彼二包藏祸心，事事阴图破坏，处处竭力把持，以兵工厂及交通事业为个私利之渊教，把持收入，不解省库，且向省府通索巨款；其动用款项有案可稽者，已达现洋二万万余元，即无长官批示，亦无部处核销，一手遮天，多私囊。任用多其亲属，政府归其操纵，出门者，每予袒庇，非其私党加以摧残，前如王永江之被摈，郭松龄之激变，果谁为之？近如金融之扰乱，战争之延长，又谁致之？司马昭之心，路皆知，吾东省皆知之，而世或未尽知也。学良黍膺疆寄，并以重任，待以腹心，诚欲化彼贪顽，共循轨道，同等念其多年共事，曲予包容，不谓彼辈奸险性成，日甚一日，近更暗结党徒，图危国家，念及此，易胜隐痛，学良与同等再四筹商，金谓非去此二，东省大局，非待无建设之望，且将有变乱之萌。大义灭亲，何况交友？毒蛇螫手，壮夫断腕，学良等不敢违弃公谊，徒顾私情。当于真（十一）日召集会议，并邀彼二列席，当众按状拷问，皆已俯首服罪，询谋金同，即时宣布罪状，按法执行。国家自有定律，非同等所能轻重，所冀海内明达调察内情，共明真相，特电奉闻。
张学良、张作相、万福麟、张景惠、翟文选、刘尚清、刘哲。莫德惠、王树翰、沈鸿烈、汤玉麟、袁金铠。
至此，张学良完成了巩固东北政权的大事，也初步赢得了蒋介石的信任。
二次北伐，以张学良易帜并巩固了东北政权为最后的胜利标志，北洋军阀统治中国的历史宣告结束。蒋介石凭着他的权谋，总算在形式上完成了“统一大业”。