吴佩孚虽然东山再起，可是他已没有当年洛阳虎视的局面，他的讨贼军的贼字，这时是指的奉军，他在查家墩司令部出兵讨奉是分两路，一路以靳云鹗为主将，由陇海路东进。一路以寇英杰为主将，由平汉路北进，先削除奉张的两翼，一翼是山东督办张宗昌，一翼是直隶督办李景林。这时，郭松龄尚未回师关外。
吴的两路出兵，都要向河南假道，本来河南是吴的大本营，吴的旧部如陈久钊、王维蔚、王维城等，都还拥有兵权，吴派人去和河南督军岳维峻商量，要把吴的旧部扫数调拨出来，由陇海路人鲁，以靳云鹗为豫东讨贼军总司令，一面以寇英杰率部由平汉路过豫入直，希望豫岳能予谅解和同意。
在岳维峻来说，吴的旧部分散在河南是岳的心腹之患，因此如能将其悉数调走，自然是求之不得，何况吴调军的目的是为了讨奉，此时国民军也是以奉军为假想敌，吴加入讨奉，岳怎会反对。可是吴要寇英杰穿过河南心脏北上，用意莫测。冯玉祥密电岳，要他武装保境，所以岳维峻遂以重兵防守鄂豫边境，不许吴军出武胜关一步，吴天天派员疏通豫岳，岳则日日支吾其辞；另一方面豫军协助靳云鹗军由归德入鲁，占领济宁、曹州等地。
张宗昌在山东公然唱出拥吴论，李景林也亦步亦趋。张宗昌是山东人，与吴同乡，他虽然曾遭吴的冷落，可是他内心却佩服吴。二次直奉之役，他打着山东人不打山东人的口号，收编了大批吴军残部。当吴佩孚在汉口再起时，正是奉系和国民军系发生暗潮的时候。张宗昌认为吴对冯玉祥是恨之入骨，如果拉拢吴佩孚和奉系重归于好，在此时此刻是有可能的。因此他密派代表樊潜和、童好古到汉口去见吴的智囊张其锽，进行“吴奉合作计划”。吴不是个翻云覆雨的人物，他刚宣布讨奉，自然转不过脸来联奉。
然而政治这玩意就是千变万化，吴在无意中获得国民军密约湘、黔两省夹击武汉的情报，这个情报不一定是真的，也许是奉方离间之计，可是吴大受刺激，忿然作色说：“冯焕章简直不是人，我还怎能和他们做朋友？”因此联奉讨冯的建议便被吴所考虑。
就吴当时的处境，是在四面受敌的情势下，如果能增加友人，减少敌人，自然是最好的办法。张宗昌知道吴已动摇，就天天打电报给吴，尊呼“大帅”，并请前山东省长熊炳琦（直系）到汉口向吴表示：张宗昌是山东人，吴大帅也是山东人，山东人不打山东人，张宗昌愿服从吴大帅，欢迎吴大帅回山东。
吴佩孚自二次奉直战争战败后，到处都遇到打死老虎的部下，现在张宗昌雄踞山东，却愿把山东奉献，部下虽亲不及敌人亲，吴佩孚大为感动不已。
奉张在杨宇霆被孙传芳所逐前，就暗中进行联吴，曾派员到岳州向吴祝寿，曾向段祺瑞要求释放曹锟，迨吴在查家墩自封联帅后，奉张亦派苏锡麟到汉口表示愿和吴取得谅解，提出三点：（一）释曹，（二）奉军出关，（三）拥王士珍为总统。奉张不是对吴有何特别好感，不过面对吴、孙、冯等联合围攻奉军的形势，竭力想冲破这个难关。至于吴佩孚呢？他虽不喜欢奉张，可是更憎恨冯玉祥，和奉张是旧恨，和冯却是新仇，旧恨还可搁直，新仇则非算不可。
吴本有一支奇兵，是派宋大明为吉林讨贼第一军总司令，刘希圣为副司令。他们在双城子设了司令部，双城子距绥芬河仅一小站，准备做为吴的内应。不料14年11月22日郭松龄倒戈，奉张情势危急，吴在查家墩司令部得到这个消息，为之震动，这和吴当年情况极为相近，吴情不自禁撚须微笑，信口成吟：“而今始知循环理，斜倚栏干乱点头。”他对张其锽说：“我不乘人之危。”于是吴下令把宋大明、刘希圣的内应撤消，又把进攻山东的靳云鹗兵团调回。
吴佩孚即然表示联奉，而郭松龄又兵败被杀，奉张的困难局势转瞬间竟能化险为夷，这真是张作霖始料所不及的。在14年秋冬之际，奉张最为艰苦，他三番两次要下野，又要自杀，主要原因自然是郭松龄联合冯玉祥向他倒戈，而冯玉祥又和孙传芳以及吴佩孚组织了讨奉的联合阵线，如果这个联合阵线真的很坚强，则奉张就会和曹锟、吴佩孚去年的命运一样。可是讨奉的联合阵线并不坚强，只是因利害而暂时结合，加上郭松龄的回师关外未能把握时机以收迅雷不及掩耳之效，冯玉祥的国民军又和李景林苦战于天津，李景林联合张宗昌组织了直鲁联军，而张宗昌又搭上了吴佩孚的线，这一来反奉联合阵营就四分五裂了。郭松龄失败，奉张站稳了脚步，张宗昌、吴佩孚结合，联合讨奉变成了联合讨冯，冯玉祥忽然变得四面楚歌。
当冯玉祥的国民军攻下天津时，北京和直隶完全落在冯系手中，段祺瑞的策士曾毓隽被扣，段的灵魂徐树铮被杀，一时冯系气焰煊天，可是没有几天，局势突然大变，吴佩孚于12月31日通电结束讨奉战争，张作霖、吴佩孚、张宗昌结成反冯的联合阵线，冯军在京畿及直豫两省的地盘受到奉军和直军的大包围，而孙传芳亦响应吴佩孚结束对奉战争，冯玉祥在这种险恶的环境下，只好通电下野。
15年1月1日冯玉祥通电下野，电云：
“（衔略）吾国苦于战祸，十四年于兹矣。杀人盈野，所杀者尽为同胞。争端百出，所争者莫非国土。老弱转于沟壑，少壮铤而走险。鞭弭周施，相习成风。金钱万能，群趋若鹜。礼让之大节尽失，国家之信念无存。军阀祸国，人民切齿，痛定思痛，于斯极矣。玉祥自去岁倡导和平以来，本期从此息止内争，专意建设。是以远投边塞，拓土移民，举凡开渠植树修路造林诸端，无不提倡。恤贫、养老、兵士屯垦诸策，无不推行。以过事实，谅所共见。不期跋扈者，不戢其心，攀附者，助长其势，屯军淮上，饮马江表，势欲席卷海内，雄霸中原，横暴既张，义忿斯动，以是群起对抗，云集景从。孙馨督首义于浙，长驱北指。萧珩督声援于鄂，志切澄清。皖赣邻封成破竹之势，徐淮袍泽挫强敌之锋，未至兼旬，溃退千里。人心向背，于斯可知。犹复野心未死，强逆趋势。驱师入关，转而图北。用兵弗戢，陷于自焚。郭军长（松龄）痛于东省人民水热之困，深怀故国荆棘之悲，爰整师旅，为民请命。返旆之初，芳岑（李景林）原约援助。迨至榆关战捷，孤军深入，乃芳岑二三其德，对茂辰（郭松龄）则顿违前约，对玉祥则通电诬蔑。玉祥为促进和平计，不得已而用兵。现在芳岑溃逃，京津肃清，直省负责有人，中原不日底定。不图郭军长将近沈阳，一朝颠覆。道路相传，闻已殉死乡国，未遂初衷，终成尸谏，果系事实，殊堪悼惜。雨亭（张作霖）经此痛创，渐有觉悔，善战者当服上刑。舟中人尽成敌国，古训昭垂，可资警惕！玉祥鉴于武人专断，每恃战胜余威，把持政权。追溯往事，辄为痛心。此次侥幸克捷，胜亦不武。又何敢贪天之功，自贻伊戚。值兹千钧一发之机，彻底澄清之会，仍宜本和平之初衷，谋国家之改造。但愿战事从此结束，人民得资休养，玉祥个人应即日下野，以卸仔肩。如是，则造疑惑众者，可以息止。而挑拨是非者，失所凭依。至于国家大计，执政硕德耆老，万流仰镜。子玉（吴佩孚）学深养粹，饱受挫折，当能不念前嫌，共谋国是，孙馨督（传芳）、萧珩督（耀南）、方耀督（本仁）、阎百督（锡山）、岳西督（维峻）、孙禹督（岳）共起义师，克奏奇勋，均为不世之功。从此延请国内贤豪，公开讨论。建设大法，纳诸轨道。凡关于国计民生，自宜各纾伟抱，共济艰危。玉祥既无学识，又乏经验。以之治国，无益苍生。以之治军，定累袍泽。与其遗误将来，见讥国人，莫若早日引退，庶免咎戾。除另呈辞职外，当即时解任，还我初服。所有国民军名义，早经通电取消。此后咸属国军，不再沿用国民军名义。自电达以后，凡以政事而见教之宾客，一律敬谢。凡因职位而惠赐之文电，恕不作答，以示决心。玉祥解职而后，拟即出游，潜心学问，苟有一得之愚，窃愿贡之国人。谨布腹心，敬祈鉴察。冯玉祥。东。印。”
冯玉祥辞职下野后，以张之江代理国民军总司令。
冯的辞职通电是希望和吴佩孚捐弃前嫌，因此对吴有学深养粹的评语，且希望吴在饱经世变后，能够不算旧帐。至于冯对奉张则一片声讨的口气，好像此仇不共戴天。这就是北洋时代的特征，今日为友，明日为敌，昨日之敌，今日之友。然而吴对冯是咬牙切齿，真正不共戴天，当吴再起时，不过想借讨奉为手段，其真正目的是讨冯，所以冯想和吴妥协，吴是不会接受的，何况吴、奉合作之局已成，吴势不能弃新欢而修旧“好”。
吴佩孚在冯玉祥下野后，突然又成为各方生拉活扯的重要人物。据说段祺瑞欲任吴为“七省治军使”。直鲁联军通电称吴为“我帅”。吴仍主张恢复法统，孙传芳亦愿移樽候教。而张之江则有世电：“愿追随我帅之后，勉效驰骋。”豫岳（维峻）直孙（岳）也为之效应。
这是吴佩孚失败后再起的黄金时代，可惜吴不能把握这个黄金时代，运用政治手腕，以恢复当年四照堂未竟的全功。他个性倔强，有所不为，不肯在奉张形势低潮的时候，乘人于危，所以他决定联奉后就以讨冯为目的，吴宣称对各方均愿化敌为友，只与冯一人为敌。
这时广州革命势力正如日东升，广州国民政府为促使北洋军人一致觉悟，曾发表歌电，主张对内召开国民代表大会解决国是，对外取消不平等条约。这些意见本来和吴佩孚的政见是相同的，平心而论，吴在北洋诸将中算得上是一个富于革命性的人物，他自衡阳撤军后，即以团结对外为鹄的，不过他的团结对外是以他自己为中心，因此广州国民政府的呼吁，他并不重视，他不能参加革命阵营，对他是一个损失，对当时局势也是一个损失。其实吴这时对护宪问题已不坚持，对曹锟复职，他亦不赞成，对南方无用兵之意，对北方腐败势力则久所痛心，所以他是北洋军人最有资格可以参加革命阵营的，可惜他个人英雄主义色彩太重，同时又不愿投机，因此不仅他参加革命阵营成为泡影，同时却迫使冯玉祥和唐生智两人参加了革命阵营。
吴这个人，不顾利害，不计成败，想到哪里就做到哪里，结果这一次的再起，又只是昙花一现。
这是北洋混乱的时期，也可说是垂亡时期，有力量的如奉系正在自相残杀，使其元气大伤。在此以前北京政府的后台军阀就是大老板，如今则谁也不够资格做大老板了。
首先是直系，曹锟和吴佩孚在直奉二次战争以前算是北京的大老板，曹锟贿选后，名誉扫地，直奉二次大战，直系一败涂地，吴佩孚穷无所归。于是奉张和国民军的冯玉祥成为北京政府的后台。奉张正在得意之时，杨宇霆、姜登选在长江被逐，郭松龄又联结冯玉祥倒戈，张作霖几乎变成丧家之犬，迨奉张转危为安，吴佩孚武汉再起，冯玉祥又变成四面楚歌。至于段祺瑞则无兵无权，空头执政而已。
当吴佩孚在武汉重振声威之际，各方人士奔走华中，举国注意力亦集中于吴，可是吴的声势就在武汉也经不起考验。
鄂督萧耀南死后，吴佩孚即派陈嘉谟继任，派曹瑛和熊炳琦等治丧。陈嘉谟于2月15日宣告就职。17日曹瑛又传死讯，吴的要角一一去世，湖北人士对吴委杜锡珪为省长大为不满，15日鄂省议会召开紧急会议，决议四点通电全国：（一）由省议会将萧病逝电告各方。（二）请第二军司令陈嘉谟以武汉警备总司令名义暂维治安。（三）省长须由省议会选举，杜省长在未当选前，由政务厅长代理。（四）2月15日以后，鄂省公文非用政务厅长代理省长之名义不生效力。
这是湖北人藐视吴大帅的一项行动，尤使吴难堪的，是这种方式就是湖南省治的翻版，而吴是最反对省治的军人。
不只是省议会，鄂省公团也纷纷开会反对吴的任命省长，将有联席会议进行的酝酿。
北京在讨吴，湖北又以省治来排吴，可见吴东山再起后，一切并不顺利。然而北京也好，湖北也好，都只是空气而已，因为北京政府没有力量，讨不讨吴，丝毫不影响吴，北京所发表的鄂督卢金山和省长刘佐龙都是吴的部下，事实上卢和刘并不接受北京的新命。卢金山且于2月24日由宜昌乘轮到汉口，立即登岸拜访陈嘉谟，并至萧耀南墓吊唁，然后赴查家墩谒吴佩孚。26日卢致电北京，请辞鄂省军务督办职务，不啻变相打了北京政府一个嘴巴。湖北各法团酝酿的民选省长运动，亦只是昙花一现。
另一面，岳维峻于22日电北京，请明令派方本仁协攻吴佩孚，孔庚亦电北京，请政府责成方本仁收拾鄂局，2月28日段乃下令派方本仁率军回鄂，会同军民两长查办吴佩孚。方本仁奉令后即任蒋绍宾为援鄂总司令，邓如琢为总指挥。
段祺瑞的讨吴令是在冯系压迫下发出，当计吴电发出后，盛传冯玉祥将再度挂帅，担任讨吴军统帅。冯下野时本宣称要出国，可是他只是离开张家口，到平地泉去看风色，国民军将领亦不希望冯出国。
讨吴令下达后，冯系大将张之江、李鸣钟、鹿钟麟、宋哲元、刘郁芬、刘骥等联名致电京内外名流，略谓：
“上年津沽之役，冯将军功成不居，洁身高蹈。讵知人心丕变，时势日窳。国家徒去元良，大局仍难挽救。信阳被兵，津南告警，豫东有客军之侵入，复有邻省之声援。战衅一开，烽烟四起。冯将军怜此孑遗，潜焉出涕，即欲整装去国，俾免目击心伤，征车旦夕待发。窃之江等以今日邦家多难，元气凋残，此后戡乱定国，厥惟元戎是赖，比经联名电挽，责以大义，始允暂缓去国，仅以私人资格从旁襄助，无如劝驾之心徒切，而在山之志仍坚。陈说百端，均不为动。诸公望重斗山，誉隆中外，关怀大局，应具同情。尚希共念时艰，一致赞助。”
冯系将领希望借这通电能博得海内外名流共同响应，使冯在大家殷切的敦促下出山，可是各方并没有热烈的反应。所以冯只好仍在平地泉，坐以待变。
段祺瑞于3月4日下令任冯为直豫陕宣抚使，冯仍未作出山的打算，并且由平地泉经库伦出国，冯系的人希望因冯的出国而和缓了直吴、奉张双方的压力。冯出国后张之江宣布继冯统率国民一军，做为国民军名义上的领袖，不过只是名义领袖而已。张为人忠厚有余，魄力不足，且其资望和国民军其他将领如李鸣钟、宋哲元、刘郁芬、蒋鸿遇等都差不多，所以名义上虽然好像是张之江代理冯玉祥，实际上则是集体领导。同时张之江对鹿钟麟和李鸣钟并不能指挥。
据说张之江是主张冯系军队撤出北京专力西北，以避免四面楚歌，腹背受敌。在当时冯系的形势，这是很合理的，因为冯的老巢是在西北，如果国民军全部主力撤到察哈尔和绥远去，而把北京交给段祺瑞，就躲开了众矢之的，让其他各路诸侯来抢北京，促成奉张、直吴等短兵相接，相互牵制，这样就减少了国民军所受的正面和侧面的压力，然而鹿钟麟在北京有权有势，当然不想离开北京，不离开北京，国民军就等于置身于鼎火沸汤之中，不仅是四面受敌，而且是兵力分散。