在迁都南昌还是迁都武汉问题上，陈果夫是坚决站在蒋介石一边的。陈果夫受到武汉方面的激烈攻击，被迫于1927年2月10日辞去国民党中央组织部长职务，改任中央政治设计局筹备员。3月10日下午，国民党中央二届三中全会在汉口开幕，陈果夫自称身体有病，拒绝参加。
1926年7月4日，国民党中央执行委员会发表《为国民革命军出师宣言》，宣布“帝国主义者及卖国军阀实为和平统一障碍，为革命势力之仇敌”，准备北伐。
7月9日，民国革命军在广州市东校场举行了盛大的北伐誓师大会。
北伐正式开始了。
在共产党、苏联的帮助下，在广州人民的支持下，国民革命军势如破竹，用不到半年的时间陆续攻占了长沙、武汉、南昌、南京，革命势力席卷大半个中国。
北伐开始后，陈果夫留在广州继续从事党务工作。他对下属科员要求严格、管束严厉，监印员姜辅成因受不了军事约束，便以女儿要出嫁为由，向陈立夫提出辞职，陈立夫不予同意，并慷慨陈词，要姜辅成献身革命大事，合其家庭小事，还许愿说：“我们不久就可以打下南京，到时你请假回去，不耽误你女儿的喜期”。以后，姜辅成再不敢提辞职的事了。
陈立夫的工作态度和作风，令蒋介石刮目相看。不久，蒋介石就让他代替前任秘书长邵力子，主管整个秘书处的工作，整日不离蒋介石的左右。
北伐的胜利使得身为国民革命军总司令的蒋介石如日中天。但军事方面的胜利却掩盖不了蒋介石在党内事务上的失利。
1926年10月15日，国民党中央执监委员会暨各省和海外党部联席会在广州召开。在这次大会之前，国民党左派、中国共产党、国民党右派为了各自的利益都加紧了活动。在苏联代表鲍罗廷和国民党左派的支持下，出席会议的各省代表中，共产党员占了多数。海外方面，共产党利用掌握海外部的优势，进行了大量的宣传，也取得了积极的成果。而以蒋介石为首的国民党新右派却没有捞到预料的名额。这使得陈果夫对此非常不满。以致以后他还愤愤不平地指责：
“有些地方本来推定在国内的同志为代表，海外部故意把电报译错了几个字，或把电报搁置不发表，使之无法出席。例如，加拿大推曾养南为代表，海外部的共党分子就故意译错了字，幸而审查资格时给我们发觉了。”
在这次大会上，有人提议迎接汪精卫复职和修改国民革命军总司令部组织法，以防止总司令权力过大。
蒋介石远在广州之外主持北伐，无暇关照广州。遂一面发电给大会，摆出谦顺的姿态，说他远在前方，不能出席大会“躬领教诲”，但此次大会：“为本党根本大计之所在，尚祈请诸同志戮力共济，肩兹重任”，另一方面，他又催促张静江。陈果夫加紧在会上活动。
10月18日，大会严厉批评国民党的右派人物张静江，张静江既是蒋介石的盟兄弟，又在辛亥革命之后与陈果夫有来往，在陈果夫主持国民党中央组织部以后，张静江也一直是陈果夫的后台老板。张静江被指责，陈果夫非常不满。张静江由于腿部患有重疾，行走不便，不能上台自辩，于是陈果夫便替他上台说明。
原来中山大学有一姓沈的学生组织了一个专门反共的组织，叫做“司的派”。但不久，沈某的这一组织便被发现了，案件由张静江负责处理。张静江本也反共，自然大事化小，小事化了，包庇沈某过了关。而沈某过了关之后，反共活动更为猖狂。因而在广州的共产党人便指责张静江处理沈某“司的派”反对共产党一案过于宽大，严为失当。而张静江则认为沈某以国民党同志地位去反对共产党，案件并不严重。在这一次大会上，共产党再次提出这个问题，要求张静江给予明确答复，陈果夫于是上台替张静江代为说明。但陈果夫说完之后，共产党方面仍不满意。在共产党的一再责问下，陈果夫临时想到共产党引以为证据的种种事情，都是在张静江主持的监委会处分沈某以后才发生的，就用轻松的口气答复说：“监察委员不是神仙，所以对于沈某以警告处分时，又谁能预料未来之事必将发生呢？”暗示沈某的主要行动是发生在张静江处理沈某之后，不能将处理后发生的事和处理前发生的事混为一谈。陈果夫的答复使共产党人意识到自己在逻辑上犯的错误，对张静江也不再指责，最后由大会决议，开除沈某党籍，作为此案的结束。
这件事，也算陈果夫为国民党右派挽回了一个面子。然而毕竟是大败中的小胜，蒋介石自然不满意。经过深思熟虑，蒋介石决定利用军事上的胜利来挽回党务上的颓势。
当北伐军攻克武昌、南昌，占领长江流域的广大地区以后，国民政府和国民党中央从中国南端迁到内地中心地区已成为形势发展的必要。1926年11月19日，蒋介石致电代理国民党中执委主席的张静江、国民政府代主席谭延铠：
“中央如不速迁武昌，非特政治党务不能发展，即新得革命根据地，亦必难巩固。”
11月26日，国民党中央召开政治会议，决定迁都武汉。
一些党政要员纷纷北上。陈果夫此时肺病又发，咯血不止，便请假去上海治病。但到了12月，蒋介石却忽然改变了迁都武汉的主张，提议迁都南昌，理由是为“政治与军事发展便利起见”。蒋介石强调政治应与军事配合，党政中央应与北伐军总司令部在一起。实际上是蒋介石感到两湖地区工农运动日益高涨，如果国民政府迁都武汉，政权被国民党左派和共产党人掌握，他要搞反革命阴谋就比较困难了。
11日，谭延阎率领国民党中央党部北上自广州向韶关出发。12月31日，蒋介石把张静江、谭延rN接到了南昌，同时他又扣留了途经南昌准备去武汉的几位国民党中央委员和国民政府委员。而在这之前，陈果夫也抱病赶到了南昌。
这年除夕，蒋介石设宴款待张静江、谭延阎及各委员。宴会上，蒋介石得意忘形地说道：“今天各位从广东来到南昌，我们心里的快活，几乎是不能形容的。”
1927年1月3日，蒋介石以迅雷不及掩耳的手法，在南昌召开了中央政治会议第六次临时会议，非法决定：“中央党部与国民政府暂驻南昌。”
这样蒋介石通过北伐掌握了国民革命军的大多数，又假借中央的名义在南昌成立了政府，造成他在南昌发号施令压制武汉中央政府的局面，实行他以军治政，以军治党的军事独裁政治。
在迁都南昌还是迁都武汉的问题上，陈果夫是坚决站在蒋介石的这一方的。但陈果夫虽然站在蒋介石这一方，主张却和蒋介石有所不同，他认为南昌地理位置虽然较为中心，但经济并不发达，政治上也难以号召国人，将来要发动政变应选在经济发达的上海，为将来在上海发动政变做准备。
陈果夫在南昌的日子，主要就忙于这件事。他密电上海，要陈布雷、潘公展、虞治卿一起秘密到南昌会见蒋介石，会商北伐军占领上海后的有关党政和涉外事宜的部署，计议策划反共清党。随后潘公展、陈布雷又被陈果夫派往上海，为反共制造舆论。这一切陈果夫都是在极为秘密的情况下进行的，很少有局外人知道这些事。
尽管陈果夫度过了和共产党斗争的难关，但由于国民党内部斗争的激烈，把他也逐渐卷了进去。1927年8月，桂系李宗仁、白崇禧联合蒋介石的嫡系何应钦，逼迫蒋介石下台，蒋介石被迫下野。而在此之前，陈果夫受到武汉方面激烈攻击，被迫于1927年2月10日辞去国民党中央组织部长，改任有名无实的中央政治设计局筹备员、政治会议上海分会委员。组织部长由汪精卫派的干将之一陈公博担任。
当陈果夫辞去国民党中央组织部长时，正值宁汉争斗激烈的时刻。武汉方面，一再要求蒋介石和北伐已经到南昌的国民党各大员前往武汉，将武汉定为新都。而在南昌的蒋介石认为，武汉是唐生智的势力范围，自己亲往武汉，不啻自投罗网，甘受唐生智的控制。而定都武汉又是国民党中央执行委员会在1926年底做出的决议，蒋介石不便公开反对。于是，他想出种种理由，加以拖延搪塞。这时正值春节，蒋介石便以过年为名，和到达南昌的国民党元老张静江、谭延阎、戴季陶等人上庐山过年，以避风头。
武汉方面，除了派邓演达和一班国民党元老前往南昌促驾外，采取了一切可能的政治措施，迫使蒋介石就范。
首先，宣称蒋介石不懂政治，要求在中山舰事件后被迫出国的汪精卫回国主持政局，而蒋介石则专门主持军事，希望利用汪精卫的政治声望压倒蒋介石。
其次，拉拢和蒋介石保有一定距离的人，打击蒋介石的支持者。谭延阎素有“文甘草”之称，在政治上一般谁都不得罪。此时，胡汉民、汪精卫分别因“廖仲恺案”和“中山舰事件”被迫流亡国外，国民政府主席一职正由谭延阎代理。张静江虽然腿有残疾，却一直凯觎虽无实权，但声名显赫的国府主席一职。谭张两人是老相识，张静江对国府主席一职虽然垂涎三尺，也不好出面反对谭延阎继续代理，硬夺过来。谭延阎知道张静江的企图，但看到张静江没采取赶他下台的行动，乐得假装糊涂，睁一只眼闭一只眼。但谭延间心里是明白的，蒋介石同张静江的关系非同一般，如果在张静江和谭延阎之间选择一个人让蒋介石支持，那肯定是张静江。如果出现这种情况，谭延间的情况也就不妙了，他不仅不能把他的国民政府代主席的“代”字去掉，恐怕要满盘皆输，连“代”和“主席”三个字一起丢，这是谭延阁最不愿意看到的结果。而要保证自己的代主席地位，也就要找到和支持张静江的蒋介石一样有实力支持者。这时，武汉方面向他伸出了友好之手，这使谭延阎兴奋不已。
一次，武汉方面借苏联顾问鲍罗廷之口，对谭延阎说：“汪（精卫）不会回来，国府主席一职，大家的意思，将来还得请你代下去。”
谭延阎对此非常高兴，所以当武汉方面邀请他前往武汉时，他欣然前往。武汉方面之所以欢迎谭延阎前往，一者是因为他的声望，他在辛亥革命时就做过湖南都督；二者是谭延图为人处事随和，只要高官得做，并不管是什么主义；再者他手下除了一个鲁涤平而外，也不像汪精卫、胡汉民那样有一大批追随者，一旦自己掌了权，就得安插他们。谭延阎基本上是只要自己保住高官就行。
武汉方面和谭延铠的接近，使谭延阎对共产党也有了好感，以致当他听到蒋介石挖空心思辱骂共产党时，颇不以为然，竞破天荒地替共产党辩解。他说：
“他们并没有什么作用，蒋先生看得太严重了。”
谭延阎要去武汉。他不仅自己去，又找到陈果夫劝他也一起去武汉。陈果夫碍于面子，不便拒绝，况且陈果夫对武汉方面的情况也颇为关注，很想去走一走，看一看。但他知道蒋介石疑心颇重，在这个时候去武汉，他怕蒋介石对他不放心。因此在含糊打发走谭延问之后，即向蒋介石请示，向蒋介石说明要与武汉方面作对，一定要摸清对方的虚实，掌握对方的情况，而在南昌隔岸观火，是弄不清楚的，应该到武汉去看一看。蒋介石对陈果夫的看法表示同意，并派他随谭延铠等一起赴武汉。
临行前一天，蒋介石特地宴请谭延阎、陈果夫一行。这些人本是蒋介石好不容易“请”来南昌的，如今却又要为他们送行，心中有说不出的滋味。
宴席中，蒋介石想起自己想要干的事屡屡为共产党、苏联顾问所阻，很是气愤。他气狠狠地说：
“鲍罗廷简直是我们的统监，而非顾问了。我们为中国独立而革命，今天遭到这种局面，怎能使人不痛心？”
本来按照原来的计划，国民党二届三中全会定于3月1日在武汉召开。而蒋介石此时气愤已极，遂无理要求将会议延期到3月12日召开，以试探武汉方面对他的态度。他再三和陈果夫强调：“他们（指武汉方面）能等我，等到3月12日开全会，就相信他们有诚意；假使提前举行，则虚伪可知。”陈果夫明明知道蒋介石是无理取闹。却满口答应一定把蒋介石的话转告武汉方面，并压迫他们延期。
与陈果夫、谭延阎一起同行的还有李烈钧、柏文蔚、丁惟汾等人。他们从南昌出发先到九江，然后乘轮船逆江而上，3月6日抵达武汉。
陈果夫原以为到武汉后会受到武汉方面的热烈欢迎。但让他生气的是，欢迎人员只欢迎谭延阎，对其他人则完全不理。谭延铠到后，国民党中央立刻举行了预备会议，讨论召开二届三中全会的有关事宜。
在预备会议上，陈果夫将蒋介石不能如期来武汉参加会议的意思转告大会，力主三中全会延期，等蒋介石到武汉后再开会。他威胁说：“如蒋总司令不参加二届三中全会，那会议的重要性无疑会大大减弱。”陈果夫的话还没说完，立刻引起了激烈的争论。李烈钧、谭延阎等附合陈果夫的意见，而吴玉章、恽代英、彭泽民等则表示坚决反对。他们认为，召开二届三中全会的日期，是中央早就定的，不能因个别人不参加会议便更改日期，如再延期，是十分错误的。他们义正严词地质问陈果夫：“现在口号打倒独裁，打倒个人专政，因蒋、朱之不能来，而再展期开会，岂不犯了个人独裁之嫌吗？”陈果夫无言以对。李烈钧、谭延阎虽然还想坚持己见，但看到多数人反对，也只好作罢。会议经过表议，一致通过决议，二届三中全会如期在武汉举行，并希望蒋介石能按时参加。
预备会议的决定对谭延阎、陈果夫这一行人无疑是个打击。李烈钧、柏文蔚两人退席。陈果夫和丁惟汾从此时起，也分开住了。过了一天，丁惟汾住进了日本租界的医院，陈果夫也秘密住旅馆。
3月10日下午，二届三中全会在汉口南洋大楼开幕。陈果夫谎称身体有病，拒绝参加。3月12日，是总理纪念日，陈果夫不好拒会，迫不得已，只好没精打采地参加会议，在会场上，他是徐庶进曹营--一声不发。会后又请了病假，拒不参加其它会议，只是观望形势而已。
但到了3月15日，有“病”在身的陈果夫却一反常态，精神抖擞地参加了会议。原来在陈果夫尚未辞去国民党中央组织部部长的职务时，曾召开江西省国民党代表大会，运用党团的方法，办理选举，又用二次全会通过的决议“共党分子最多不得全体执行委员三分之一”的规定，亲自圈定了党部名单，后又依此办理，固定了广东、广州两党部的人选。而这次大会经过讨论，决定取消江西、广东、广州三处党部的选举，已经圈定的名单也被推翻了。事已至此，陈果夫也顾不得“病”了。
在会上，陈果夫极力申辩，圈定的办法不应推翻。他说：“圈定的办法是经过常会决定的，全会不应该否决。”陈果夫巧舌如安，确实迷惑了不少人。但也有人对陈果夫圈定代表的办法表示坚决反对。如彭泽民就批评陈果夫圈定名单是独裁。大会主席顾孟徐也坚持认为，常会决议案，全会有否决权。顾孟徐当初在常会上也是同意圈定办法的。今天忽然变为激烈的反对者，令陈果夫气急败坏，只好忿忿地离开了会场。
过了一天，有人告诉陈果夫说，彭泽民在大会报告组织部破坏海外党务的进行。陈果夫听了更是生气，急忙给谭延铠写信，指控彭泽民的种种贪污行为，说海外各党部向组织部控告的案件很多，而组织部均不受理等等。第二天，谭延阁在大会上宣读了陈果夫的来信。彭泽民想申辩，大家不许他辩，就此把他打了下来。
虽然出一口闷气，但陈果夫在武汉的日子却越来越难过了。二届三中全会闭幕后，武汉方面正式公开批评蒋介石和陈果夫。武汉街头出现了“打倒蒋介石，驱逐陈果夫”的标语。3月18日，武汉市民大游行，喊出了“驱逐陈果夫”的口号。此时的陈果夫犹如过街的老鼠，陷入了人人喊打的境地。“三一八”游行之时，陈果夫也挤在游行的人群中，可是没有人认识他。但如此的阵势也使他有些惧怕。从此以后他的行动便格外秘密了，几乎每天要换一个旅馆，避免人家注意。
陈果夫的处境，蒋介石知道后，不久即派人到汉口，命他赶快离开武汉，并嘱咐他临行之前，与谭延阁接洽一次。
3月23日一时，在谭延间的公馆，陈果夫与谭延间见了面。谭延阎到了武汉之后，在没有得到他想象中的那种荣光之后，便对武汉方面深感失望。他又想取得蒋介石的谅解了。他假惺惺地挤了几滴眼泪，故作沉痛地向陈果夫说：“我的见解不及蒋先生，我初以为此间情形不严重，到此一看，才知道严重性远出我想象之外。现在我已不能和你一样的自由了，要想离去亦不可能。但将来必定回南京追随蒋先生，并且今后一切必能听蒋先生的话。请告蒋先生，不久必定可在南京会面。”会谈不到一小时，陈果夫即向谭延阎告别。2时，陈果夫秘密登上了轮船，在茫茫的夜色中，离开了武汉。