吴佩孚在天津车站这几天，直军情况更陷悲惨境地，至11月2日止，胡景翼部的先头部队已进入杨村，直军不战而退，滦州方面直军在撤退中溃散，唐山一带更是悲惨，日本方面消息，张宗昌一心一意想活捉吴佩孚，取其头颅。吴的日籍顾问冈野增次郎获得吉田茂的通知，日本政府愿协助援救吴的性命，所以吉田茂主张吴立即迁至日本租界，可是吴佩孚在这一点上非常坚持，决不在兵败后托庇租界。
11月2日杨村不守，冯军由北仓逼近天津，吴在列车上假寐片刻，吴的左右不由分说，把火车开回老站，吴醒后大怒，连声说：“谁要我上租界，我便要谁脑袋。”
吴同时向冈野增次郎说：“战败逃入租界苟全性命，是我所最不齿的，也是一个国家大员最丢国家颜面的行为，我决不做这种我生平最反对的事。设若不幸，我宁玉碎于此，也不愿托庇租界以谋瓦全。日本政府对我的好意和足下奔走的热忱，我是永矢不忘的。”
吴的左右见吴这么坚决，只好面面相对，偷偷耳语，大家都了解局势万分严重，不上租界就是死路一条，可是吴佩孚却处之泰然，大家不由疑窦丛生：“孔明先生兵败时还有一套空城计，咱们大帅是打的什么主意呢？”
吴好像看透了左右的心事，他慷慨悲壮地说：“我留在天津，看焕章（冯玉祥）把我怎样。”
冯玉祥会怎样？答案很简单，他既然敢倒戈，什么事情做不出呢！吴要留在天津就得做俘虏，不做俘虏只有自杀。吴的幕僚个个急得如热锅蚂蚁，又不忍心丢下吴自寻生路。
在吴身边，有海军部军需司长刘永谦（字六阶），他鼓着勇气对吴说：“我替大帅已经准备了一条军舰，不如我们把车开到塘沽，弃车登船。”
这是死里逃生的唯一之路。原来渤海舰队司令温树德早与奉系勾结，把舰队带走，刘永谦则和华甲运输舰舰长为知己交，他在局势恶化时就安排了这条船，以待最后关头载吴脱险。他确知冯军和胡军都已距天津十里，千钧一发，所以硬着头皮劝吴“乘桴浮海”。
吴这时真是英雄落泊，穷途末路，不禁流下了眼泪，黯然说：“我今天是败军之将，虽属运穷命蹇，自念尚不是可死之时，只有收拾残兵，浮海南下，先至青岛体察形势，再定行止。”
13年11月2日晚，吴佩孚接受刘永谦的意见，决定由塘沽登舟，他命令在身边的参谋长张佐民，作各种撤走准备。
晚上10时许，接到胡景翼先锋已迫近天津的消息，事迫燃眉，因此火车头遂升火待发。这时候，停留天津总站的总司令部列车有头等车厢30余辆，和两周前讨逆军总部出发北京正阳门赴山海关时一样，可是吴总部已大半数溃散逃亡，仅少数忠义之士和若干卫兵随吴共患难。当晚11时左右，吴下令开车，火车驶出天津总站，向塘沽行进，3日晨5时，车抵塘沽，幸好塘沽尚无敌军踪迹，不过直军败兵却有不少麇集在塘沽车站和码头上。
华甲舰有5000余吨，原是德国军舰，因为太大，不能靠岸，所以要乘小轮转赴华甲。吴等一行到大沽港已是上午9时，登上华甲舰，在舰上已有败兵无数，聚集大厅中，吴和左右只好转入船尾餐厅。
吴在舰上立即召集文武幕僚20余人，商议今后步骤。兵败之余，穷无所归，与会人士面面相觑，真不知从何说起。座中有吴所器重的张其锽，执笔草拟了五条意见：
一、取消武力统一中国之政策。
二、改变御下态度，宽容政客要人，苟有主张之士，虽政敌亦应敬重之，尤不可加以斥骂。
三、放弃洛阳根据地，另行选择据点。
四、亲贤远佞，起用新人才。
五、筹款300万元为经费。
吴表示除第三条外，均可接受。这五点意见，做为吴的一个幕僚来说，是很突出而大胆的，但也是必需的。在吴幕僚中，吴对张其锽最刮目相看，张是广西桂林人，字子武，中年自号“无竟居士”，幼年家贫苦读，光绪三十年中进士，由县长转任湖南巡防队统领，民元谭延闿都督湖南，张与谭友善，所部改为南武军，张任统帅，后任湖南军事厅长。民国11年春，黎元洪总统任张为广西省长，加陆军上将衔。张和吴订交在吴首次南征时，张守永捍，以手书致吴陈利害，吴为之折服，遂结为异姓兄弟。吴对部下从不假辞色，独对张最亲敬，尊称省长而不名。
张博通经史，尤精于奇门遁甲，当时传说张能呼风唤雨，知过去未来，这当然过于夸大，可是张是一位传奇人物则是事实。他和吴佩孚相得益彰，水乳相融。
13年11月6日下午7时，吴佩孚率领败军乘华甲舰驶离大沽口，他在大沽口华甲舰上留了三天，想听听有没有意外的好消息，同时收拾残兵。
在这个时候当然不会有好消息，吴听到的都是一连串极坏的消息，才下决心浮海而南。可是时移势易，世态炎凉，这时山东的郑士琦已宣布中立，拆毁沧州、马厂间轨道以阻溃兵，同时严令山东沿海口岸，拒吴登陆。吴舰过青岛时，温树德只派人送了食物，却不欢迎靠岸。11月12日吴舰由吴淞入长江，14日过南京，齐燮元曾登舰与吴一晤。南通名士张謇则派专人送上一封慰问信：
“子玉将军麾下：将军为国家而战，为主义而战，战不足为将军罪。将军之败，败于内奸与外谋，败不足为将军辱。下走平日雅重将军，今以将军之败，愈增敬爱。时难方殷，愿将军为国珍重，少饮酒勿任气，将军幸甚。国家幸甚。”
信末还附一诗云：“壮语招时忌，斯人实可嗟，一舟成敌国，四海欲无家。治易刘中垒，能军李左车，盈谦有消息，尺蠖即龙蛇。”吴读了此函及诗，流下了英雄泪，低沉地说：
“季老真是穷途知己。”
吴佩孚一行于13年11月17日抵达汉口，这时齐燮元等已宣布对北京独立，所以吴佩孚一抵汉口就发表筱电组织护宪军政府。湖北督军萧耀南是吴所提拔的，他以为萧当然完全听他的指挥，因此他想联合长江各省对抗北方。
护宪军政府所揭橥者为：“……合法之国会政府不能行使职权，宪法完全失效……亟应联合建设护宪军政府，以为对内对外之机关……自冯军入京之日始，北京……之令，一概无效，所有征讨大计，惟护宪军政府是属”至于所拟定之护宪军政府组织大纲十条，大要为：
一、护宪军政府因……合法之国会政府不能行使职权，宪法完全失效，联合同志各省组织之。
二、护宪军政府设于武昌。
三、护宪军政府代表中华民国，执行对内对外一切政务。
四、护宪军政府根据法律元首为海陆军大元帅之义，于大元帅之下设置元帅，凡各省区之巡阅使，督军、督理、督办、都统海陆军总司令皆为元帅。
五、元帅采合议制设元帅会议行之，元帅会议设正副主席各一人，由各元帅互选之。
六、元帅不能出席会议时，得派代表一人代行其职权。
七、护宪军政府于元帅会议之下，设内务、外交、军政、财政、交通五部，每部设部长次长各一人，其组织及职务另定之。
八、护宪军政府至宪法效力回复护宪目的完全达到之日，应即撤销。
九、本大纲有未尽事宜，由元帅会议随时改之。
十、本大纲自宣布之日施行。
列名“筱电”的是齐燮元、孙传芳、萧耀南、刘镇华、吴佩孚、杜锡圭、马联甲、蔡成勋、周荫人、萨镇冰、张福来、李济臣、刘存厚、刘湘、杨森、邓锡侯、袁祖铭、黄敏成、金汉鼎、林虎、洪兆麟等21人，包括苏、浙、鄂、陕、皖、赣、闽、豫、川、粤十省和海军。可是代表粤军的林虎和洪兆麟立即由上海的粤军代表通电否认。齐燮元虽是领衔的，亦对护宪军政府不表同意。11月19日江苏省长韩国钧竟通电反对护宪。至于孙传芳、蔡成勋、萧耀南、刘镇华则在复韩国钧的电报中表示组织护宪政府通电，事先并没有完全同意，此后当另图补救。而湖北的萧耀南也有暗示，不欢迎吴佩孚留在武汉。13年11月19日吴佩孚黯然离开了武汉，乘京汉火车经郑州径返洛阳。
洛阳是吴佩孚的根据地，吴既然回到洛阳，反吴的人认为这是纵虎入山，非常不安。吴在河南，召集他的旧部，积极布防，并在郑州设立护宪军前敌总司令部，11月23日河南绅民张钫等在郑州组织弭兵会，反对河南变成战场。这时候胡景翼南下的部队已在京汉线和吴军开火。
段祺瑞入京就任临时执政后，11月24日吴致电段，表示赞成其应付时局的方针，劝段不要受张作霖和冯玉祥的愚弄。段祺瑞也有意在吴患难时拉一把，用来对付张、冯，可是又怕吴真的借尸还魂后不听差遣。所以阳示对吴拉拢，电称可以阻止胡景翼军前进，却暗中电令西北方面的阎锡山、刘镇华、陆洪涛、吴新田全力围攻吴佩孚。
12月1日吴佩孚、胡景翼的代表正在开封召开和平会议，停战议和。突然陕军第二师长张治公、第三十五师长憨玉琨联合山西军队发动偷袭洛阳，向吴提出哀的美敦书，限其即日离境。吴素高傲，对憨部的变动本不重视，下令备战。不料吴的命令竟不能下达，部下亦不接受命令，这时憨的第二次哀的美敦书又来了，吴乃仓促离开洛阳，先到郑州，怎知在郑州还未落脚，又接确报，胡景翼部自北方开来，吴只好匆匆南下信阳，寄寓信阳的道尹衙门。2日晨吴偕数十人乘火车离开信阳。这时又收到萧耀南的通电，拒绝吴率部入鄂，并劝吴下野。吴只好在新店下车。吴部寇英杰守彰德，为了表示对胡景翼让步，曾后撤50里。
4日吴电段祺瑞，表示拟入鸡公山养病，不问世事。萧耀南电吴，愿意送路费，请吴出洋，吴阅电大怒，立予拒绝。
憨玉琨率军东追，豫督张福来被迫离豫，把河南督理印信交给省议会。李济臣退守许州，寇英杰奉萧耀南令退保武胜关，阻溃军入鄂，郑州情势混乱，第二十四师毁黄河铁桥阻胡景翼南下。
吴军南撤，憨玉琨率军尾追，12月5日憨军占开封、郑州，胡景翼部渡河南下，被憨军拒阻。6日，吴佩孚上鸡公山。
鸡公山是很著名的，它位于河南湖北两省接壤之地，蜿蜒数十里，峰峦相接，形状奇特。山的顶端有如报晓的雄鸡，故名鸡公山。豫鄂人争传鸡公山可呼风唤雨，实则鸡公山屹立中原，介于南北之间，登山可穷千里之目。山上夏天很凉快，冬天很暖和，可以避暑，外国传教士在山上盖了教堂，而有些人则修筑别墅。有钱的人多来自武汉，山上还有一条小街，也有医院、学校、运动场、邮政局、警察局等等。
12月的天气，山上一片冬景，霜满山径，雪盖远峰。吴登山后借寓河南第十四师师长靳云鹗的别墅。
吴佩孚上鸡公山后，鸡公山又变成全国注目的一个地方，而他不只是生了病，同时头发也白了。形势影响于人之大，于此可见。在吴佩孚来说，他过于自傲，对左右不假词色，崖岸自高，不同流俗，这些都可以说是他的长处，但也是他的短处。无论如何，在当时北洋军人中，吴不愧是个奇男子，曹锟贿选他不赞成，曹家在北京胡作非为，他也不同意，然而直系悲剧的苦果，却是要他一个人吞下。
吴当时气不能平的，是他如果在战场上战败，还想得过，可是他这次失败，是因为冯玉祥倒戈，同时曹家兄弟不争气也是基本原因。第一次直奉战争，奉系战败后还可以退到关外，闭关自守，发愤图强；这次直系失败，几乎和皖系一样，一败就不可收拾。而直系的大将都自顾自己，宁愿让人各个击破。吴佩孚在这样情况下怎不痛心疾首呢。
段祺瑞对吴佩孚也有深恶痛绝之感。因为段前此垮台，几乎完全垮在吴的手中，吴从驻防衡阳时代，以一个小小的师长，竟向段挑战，从此声望一天比一天高，力量一天比一天大，最后发动直皖战争，一举击溃皖系，段只好在天津息隐。
如果不是这次直系垮台，段怎么能重上北京的政坛。
然而政治上没有绝对的恩怨，政治形势可以把昨天的敌人变为今天的友人。段这次是在奉系和新起的国民军两大势力支持下出山，自己无拳无勇，也就无足轻重，处于两大势力之间，段的临时执政日子并不安逸，段总想建立自己的力量，可是皖系军队已烟消云散，安福系又是臭名扬溢，既无可用之将，又无可用之兵。
有人向段建议重用吴佩孚，在吴穷无所归时，拉吴一把，使吴为段所用，只有吴还可以对付张作霖，尤其对冯玉祥有抵消作用。段也为之动心，不过对吴不敢相信。在吴佩孚来说，他自况关羽，义不帝曹，所以他可能演出过五关斩六将挂印封金，千里送嫂的故事，以标榜自己。在这种情形下，段、吴合作的可能性就太小了。
12月19日下午7时，湖北军第一师长寇英杰上鸡公山谒见吴，吴本打算以寇英杰率军警备鸡公山四周，并以信阳为中立区，缓和胡景翼军南下，让自己能在鸡公山喘息。
然而胡景翼认为河南已是自己的辖区，怎肯在卧榻之旁容一只老虎，他于12月11日在郑州正式就豫督之职，逐走了憨玉琨，占领了信阳，把吴佩孚的残部4万多人缴械，同时通知吴佩孚请他离开鸡公山。
12月28日吴佩孚带病下鸡公山，向湖北进发，可是湖北人也拒吴入境，破坏了路轨，阻吴的火车，吴被迫在广水下车。
吴佩孚入洛阳，上鸡公山下鸡公山，走遍了半个中国，茫茫大地竟无容身之所，昔日他被人歌颂，被人拥护，如今则被人驱逐，被人挡驾。
在患难中才看得到知己。当他穷无所归时，湖南赵恒惕伸出了友谊之手，敦请他前往湖南。而四川的杨森也派人来迎迓他。
吴佩孚和赵恒惕，因对敌而惺惺相惜，由此订交。吴咤叱风云时代，赵在湖南和吴并不步调一致，吴一心要用武力统一中国，赵在湖南则主张联省自治，赵的联省自治是吴所反对的，然而吴、赵的交情却毫不受影响。现在赵邀请吴假道湖北前往湖南。
湖北的萧耀南是吴所提拔的，现在萧却有礼貌地拒吴，甚至吴想假道湖北去湖南都很困难。当吴在广水因铁轨遭破坏，被阻前进时，川督杨森的军务代表刘泗英来谒，自告奋勇愿意先到武汉去游说萧“缓段全吴”，吴欣然同意。刘泗英到了武昌，径赴督署，萧对来客表示自己不会做冯玉祥第二，不过为了保全武汉，请吴不要留在湖北。同时决定三个要点：一、请吴不要驻岳州，改驻黄州。二、吴的卫队以两营为限。三、所乘兵舰决川号和浚蜀号的武装解除，仅供作为交通工具和自卫。
14年1月1日，吴佩孚率领卫队抵达汉口大智门车站，宣言不入租界，留住火车中。这时候湖北公团向萧提出请愿，要萧劝吴离开湖北。2日萧耀南撤回驻防岳州的湖北第二十五师部队，以岳州还湖南，赵恒惕即派邹序彬为岳阳镇守使，率部前往接防。4日晨吴佩孚至湛家矶，改乘决川、浚蜀两舰，东下黄冈，泊赤壁下，不登岸。川、湘、黔各省代表均在船上，大家合拍了一张照片，密订川湘联防条约。5日，抵黄州，即在黄州住了下来。立春日吴偕僚属游灵泉寺、陶侃读书处及其他名胜，均有吟叶，好整以暇。现在抄吴当时的几首诗——
（初至黄州，走笔云史）为谋统一十余秋，叹息时人不转头；赢得扁舟堪泛宅，飘然击楫下黄州。
（赤壁春望书示云史）戎马生涯付水流，却将恩义反为仇；与君钓雪黄州岸，不管人间且自由。
（黄州早春登城）两字功名百战哀，江山无改此登台；举杯独酌看周易，樊口江鱼下酒来。
黄州距离武汉只有120里，当时变成了冠盖云集之地。段祺瑞也奈何吴不得。萧耀南看到吴的潜力不可侮，段的势力不觉畏，对吴的态度也和缓多了。然而吴已饱尝世态炎凉的滋味，湖北各团体对吴的称呼就变了三次，开始是“大帅”，后来是“玉帅”，最后则直呼子玉。更且发起“拒吴保鄂”。
萧耀南有他的苦衷。第一怕胡景翼军以捕吴为借口而开入湖北。第二段祺瑞派了代表坐守督署，天天逼着萧要把吴押解入京。同时萧也怕吴的部属在湖北活动，所以曾贴出一张皇皇的布告：“吴上将军表示下野，倘有假上将军名义号召党徒者，惟有执法以绳。”他也发出通电：“倘有野心家侵犯鄂境，定即率我师旅，相与周旋。”这是对付胡景翼的。
吴到黄州后，萧也有微电通告各方：“吴前使来鄂，奉执政电喻，勿任或往他处，以靖人心等因。吴使鉴于各界环请之诚，即于江日乘轮离汉，不问世事。我执政保全将才及吴前使遵守和平之旨，俱可昭示于天下，垂美无穷。耀南奉命周旋，公谊私交幸获俱尽。”这篇文章真算“好手笔”。
吴佩孚在段祺瑞和张作霖眼中，是一个仇人，可是形势变了，冯玉祥的崛起和倒戈，让段和张同具戒心，他们都有用吴制冯的动机。所以张作霖曾对报界谈话说：“过去悬赏缉吴，纯为军事行动，现在军事行动终了，对待敌人的行动当然也中止，对吴如何处置，作霖概不过问。”
段很想把吴请回北京，如用他不让他离得太远；如不用他，在北京更可放心。王揖唐讨了这个差使，王觉得段的手下能和吴打交道的，除了自己没有别人，过去王任南北议和北方总代表时，吴反对最烈，可是现在王已荣任了皖督，自己觉得身份不同了。
14年2月25日，王揖唐到了黄州为段做说客，劝吴自动入京，有话当面谈，前罪一笔勾消。吴待王以贵宾，从黄鹤楼谈到赤壁，天一句地一句，始终不正面谈政治问题，一连几天，越谈离题越远，王揖唐看看无可再谈了，乘兴而来，败兴而去。
王揖唐之行没有结果，段祺瑞认为既然软来不行，就只好硬来了。密令海军司令许建廷率领长江舰队八艘前往黄州，希望能一举擒吴，同时对萧耀南也有兴师问罪之意。段派在湖北监视萧的，是曾任第三师第五旅旅长张学颜，张的现职是萧的参谋长，他和吴有过一段不愉快，脱离了直系而投奔皖系。
湖南的赵恒惕继续向吴劝驾，正当吴有离黄州之意时，赵来了一个电报，情意殷切，内称“湘为旧游之地，盍兴乎来，愿扫榻以待。”
吴在穷无所归时，得到赵的电报，深为感动，喟然叹曰：
“炎午真够朋友。”
吴和湖南之间，是敌是友，论主张是敌人，因为湖南是独立省份，直系称霸时代，湖南是不听命令的；可是吴和赵之间，从吴在衡阳驻军起，两人订交，深相契结。最妙的，是湘人坚拒北军驻境，现在自动把吴从湖北接来，假使当年吴在湖南逼湘人太甚，今天就不会有这个结果了。
吴决定赴岳阳，在吴心中，岳阳是他的发祥地。第一次入湘时，他脱颖而出，成为北洋军中一颗彗星。第二次入湘时，他扶摇直上，成北洋军中一枝独秀。第三次入湘时，则逼赵军签定城下之盟，他那时兵力本可完全占领湖南，可是因为他敬重赵恒惕，所以只签盟退军。现在是他第四次入湘了，他却穷途无依，托庇于湘。
段派海军偷袭吴的计划，前海军司令杜锡珪获知急电吴，这是14年3月1日午夜。吴接报立即采取紧急行动，率领随从人员登上决川、浚蜀两舰，大风雨中启碇向湖南出发。吴的坐舰启程两小时后，许建廷所率的八艘军舰才掩至，已被吴兔脱了。段获知吴已离黄，急令萧耀南加以堵截，吴当然想象到一切可能，所以过武汉的时候，两舰灯光一齐熄灭，潜过武汉，萧亦假装不知，让他鼓轮西行，抵黄金口，第十五师长陈嘉谟密置大炮于两岸，掩护吴的座舰，同时宣言如海军军舰再上驶，岸上的大炮就采取攻击，许建廷的八舰到了黄金口遂不敢前进。
吴佩孚于14年3月4日安抵岳州，岳阳镇守使邹序彬代表赵恒惕欢迎吴，吴自己留居舰上，眷属住岳绅葛豪家，卫队分驻天后宫一带。
赵恒惕发表阳电迎吴：“国内互争，皆缘政见偶异，并无恩怨可言。子玉果已解除兵柄，不妨随地优游，何必迫之侨寓租界？既非国家爱护将才之至意，尤乖政党尊重人格之美德。”
赵恒惕迎吴佩孚到湖南，真是一种雪中送炭，患难知交的表现。赵本想请吴到他家乡衡山去小住，然而吴却在岳州，因为他不是真的放弃一切，他虽然愿意寄人篱下，却不能真的与世隔绝。
吴在岳阳不肯登岸，赵请他弃舟而陆，他亦不愿。吴自浮海南下后，他的亡命生涯是在海上、山地、湖上、舟上、车上。处处有惊无险，而他不仅不愿托庇租界，连陆地都有点懒于一住。
吴在黄州时，虽各方代表往来如织，但黄州是萧耀南的辖境，萧在名义上又是段的属吏，在段、萧的监视下，吴不能畅所欲为。现在到了岳州，岳州是赵恒惕的辖地，湖南又是独立省份，不受北京政府的命令，吴受赵的欢迎而来，他除了对招待他的地主还有顾忌外，对北京政府可以完全不理了。
14年3月30日（农历三月七日）是吴佩孚52岁的诞辰，这与他50岁在洛阳时代如日中天的气象完全两样，可是仍然有八方风雨会中州的态势。各方均派代表来祝寿，张作霖也派了代表。
赵恒惕送吴的寿联是
平生忧乐关天下；
此日神仙醉岳阳。
这对联如其人如其事，吴不觉捻须而笑了，亡命途中得到这样知己，也可安慰。
7月23日（农历六月初三）是吴的夫人张氏四十整寿，吴的朋友和部下也在岳阳大事庆祝，并且举行堂会，演唱平剧祝贺，平剧上演前请吴点戏，吴拿起笔写《过昭关》一剧。
吴的部属用湘绣给吴送了一块匾，上写“东山再起”。
果然，吴很快就东山再起了。