革命阵营内部的分歧
被派别活动搞得四分五裂的国民党领导集团的成分中存在着不团结，而具有与众不同的哲学和独立的目标的共产党参加了国民党指导国民革命的工作的状况也带来了不团结。关于“国民革命”应包括什么活动形式，还没有一致的意见。到1927年初期，国民党领导集团在一系列问题上出现分歧。军事讨伐的下一步行动应该是什么——矛头指向上海，还是指向北京？权力机关应设在哪里——武汉还是在南昌？在这个问题后面还有另一个更重要的问题——国民党内部哪一方的领导人应作出重大的决定？在权力问题后面存在着一个更加造成不和的问题——对社会革命应鼓励到什么程度？应容许它以什么速度进行？一个类似的、具有战略意义的问题是，应推动还是限制反帝国主义的运动。那一年头三个月在这些问题上的冲突，造成了国民党领导中间的分裂、4 月份的再组合，以及在大部分革命地区内对共产党员的一次清洗。
当留在广州的领导人启程北上，到武汉去成立国民党政府时，他们分两批从陆路前往蒋介石已在那里设立国民革命军司令部的南昌。经过为时一周的几次会议后，第一批人前往汉口，于12月10日抵达。根据鲍罗廷的建议，这个集团成立了由国民党中央执行委员会和国民政府委员会的几个成员组成的临时联席会议。他们选举徐谦为主席，鲍罗廷为顾问。这个属于约法之外的小团体很快成了武汉的主要决策集团，实际上篡夺了国民党政治会议的权力。左派占优势，联席会议成了鲍罗廷施加影响的一个重要工具。它开始行使的权力很快受到另一个在南昌的有威望的集团的挑战，这个集团不但包括蒋介石，而且包括中央执行委员会常务委员会代主席张静江和国民政府委员会代主席谭延闿，他们随第二批人从广州出发而于12月31日抵达，中央党部和几名部长也一起来到。
在1 月份的最初几天，蒋介石的南昌司令部召开军事会议，讨论几支日趋庞大的军队的财政和改编问题，并为下一阶段的战役制订计划。蒋介石的企图是分两路向上海猛攻，一路沿长江而下，另一路经浙江朝东北方向前进。布廖赫尔将军反对这个战略，唐生智和有实力的政治部主任邓演达也反对。双方的理由既是战略性的，又是政治性的。对蒋介石及其追随者来说，胜利意味着控制富饶而比较工业化的长江下游地区以及有潜力成为首都的南京。对汉口集团来说，北伐可能意味着与俄国援助的冯玉祥的军队会师，然后可能取得北京这个巨大的政治战利品。会议采纳的战略符合蒋介石的意愿，虽然它的确也把唐生智的部队集结在京汉铁路北段的防御阵地上。
南昌的集团成立了临时中央政治会议，那里的大部分中央委员会委员主张党部和国民党政府应暂时设在军事指挥部所在地南昌。相反，徐谦及其同事要求立刻搬到武汉。两个派别，一个声称拥有联席会议的权力，另一个则利用政治会议的名义，都决定召开中央执行委员会全体会议——各在它自己的地盘召开！——以重新调整党的事务。蒋介石于1 月11日前往武汉，去争取他在那里的同志，但是一星期后他离开时未取得什么成果，显然心怀不满。他受到鲍罗廷的谴责，而他在次日针锋相对，痛斥鲍罗廷。从此以后两派越来越独立而敌对地行动，虽然使者们往返于两地之间，试图弥合分歧，但是蒋介石和鲍罗廷之间私人方面以及政治方面的裂痕越来越扩大了。事实上有理由认为，鲍罗廷亲自煽起了一场反蒋的运动，以期削弱蒋的地位。
中国共产党的领导在这些争吵中支持武汉的左派。在一份日期为1927年1 月8 日的政治报告中，共产党中央委员会强调下一个战役应沿京汉铁路北上，一切军事力量都应在那里集中。它赞成当时正在出现的上海自治的运动，这一运动将在国民党部队和奉、鲁部队之间制造一个缓冲区。（如果有效，这至少可能推迟蒋介石夺取上海这个战利品的行动。）报告还赞成联席会议，虽然它痛惜国民党领导集团中出现冲突，并敦促蒋介石与汪精卫和解，后者已被国民党请回，重新担任他的领导职务。但是在2 月份，武汉的共产党员开始了反对“军事独裁”和“新军阀”运动的宣传，并开始专门对蒋介石的强有力的支持者张静江进行谴责。蒋介石在2 月21日的讲话中进行反击，谴责武汉的联席会议篡夺党的权力和徐谦独断专行，为他的立场和他支持忠于孙逸仙的老同事的决心辩护，并威胁要抑制咄咄逼人的共产党。2月25 日，南昌集团从陈公博那里得知武汉集团计划通过第三次中央执行委员会全会要实现的目的：主要是把组织系统恢复到蒋介石集大权于一身以前的状态，蒋介石是通过去年5 月第二次全会的决定和他被任命为总司令而做到这一点的。他们侦察到鲍罗廷的计谋，于是南昌的政治会议在次日打电报给共产国际，要求它召回鲍罗廷。当没有收到答复时，据说政治会议就直接去电鲍罗廷，敦促他离开，但是鲍罗廷干脆置之不理。裂缝到这个时候已经很宽了。
革命的领导集团还在其他问题上发生了分裂。由于担心列强最后将支持孙传芳和张作霖，反帝运动应否加以限制？更难解决的问题是，由于担心一个强大的反革命浪潮将加强敌人，以致阻止国民党控制下的统一全国的讨伐的胜利，群众运动是否应加以控制？土地运动的暴力行为和劳工运动的过热情绪正在国民党地区内引起一个反对的浪潮。在武汉的有的领导人认为，劳工必须受到约束，因为连续的罢工正在破坏商业，减少政府收入，给失业救济制造问题。在农村，被发动起来的农民正在处决地方上的敌人，大地主和商人正逃向城市，在那里散布农村恐怖的消息。他们的出逃破坏了农村的商业，特别是米、茶和其他农产品的交易，这就导致了国民党管区内的长沙、武汉和其他城市商业的萧条。1 月8 日共产党中央委员会在其政治报告中表达了它的担心：
在北伐军所占领的湘鄂赣等省的民众，的确是已走上革命道路上，革命已深入到乡中去……群众自动枪杀劣绅土豪的事数见不鲜……设使现时的军事失败，必不免来到一极大的反动。
就在此时，毛泽东正在长沙周围的几个县实地调查农民的暴动。在他后来成为经典的革命宣言的报告中，他为暴力行动和农民夺取地方权力而高兴。他强烈要求，如果穷人理应推翻他们多少世纪以来的压迫者，他的同志们就必须赞成这段绝对必要的暴力时期。按照毛泽东的介绍，农民的暴力行动完全是自发的。
但是共产党的领袖们变得极为担心。1 月26日的一份中央委员会政治报告评述了列强中表现出来的态度和国内对共产党在日益发展的革命中所起作用的政治舆论倾向。以下是主要的段落：
国民党右翼正变得日益强大……当前国民党内部有一个特别强大的反对苏俄、反对共产党和反对工农运动的动向。
向右转的动向，首先是由于蒋介石和张静江认为国内只应存在一个党，一切阶级应该合作，阶级斗争应予禁止，不需要共产党……
第二个原因是，他们认为国民革命将很快成功，不久将出现一次阶级革命的运动，当前最大的敌人不是帝国主义和军阀主义，而是共产党……因此，一个巨大的反共浪潮已经在国民党内部发展起来……
当前需要我们迫切地考虑的最重要的问题是，外国帝国主义和国民党右翼及国民党所谓温和分子的结合，造成了内外反对苏俄、共产主义和工农运动的形势。这是极为危险的，而且是完全可能的……
共产党领导提出什么对策与这种危险斗争呢？首先，党应消除国民党的种种恐惧，这些恐惧是基于以下的意见：接近群众的共产党反对国民政府，不久将有一次共产主义革命。为了消除恐惧，党应敦促群众向政府提供财政和军事支持，同时通过宣传，解释国民革命的胜利仍很遥远，资产阶级和资产阶级思想不可信任，并且警告国民党不要与资产阶级联合起来反对“真正的革命者”，即工人和农民。在外交政策方面，党应集中力量搞反英运动，延缓把反帝运动扩大到日、法、美三国，以便孤立英国。报告很有信心地提出：这些政策如果正确地执行，将导致完全的胜利。它们将阻止外国列强对我们的联合进攻和消除国民党对共产党的恐惧。
还有涌现出来的一系列事件——诸如中国城乡中无数的行动和反行动（罢工、工商业倒闭、夺地和暗杀）、宣传、地方和地区有影响的中国人中发展起来的情绪、中国几个主要权力中心的决定以及莫斯科、伦敦、东京、巴黎和华盛顿作出的决定——它们正无情地导致革命运动内部面对面的冲突。
革命者之间日益扩大的分裂
2 月份和3 月初期，武汉集团与蒋介石及其支持者之间的不和变得一清二楚了。他们各走各的路，激进的左派在武汉更牢固地扎下根来，并试图抑制蒋介石的权力；而总司令在他的地盘内镇压共产党员，派军队去征服长江下游，并且寻求中外的新支持。
国民党左派的领导人、湖北共产党的领导人和几名俄国顾问已经工作几个月，建立了以唐生智为中心的反蒋军事联盟。3 月5 日，一份显然在汉口写的秘密俄文报告报道了反蒋军队的阵容，其中提到第3 军（朱培德）、第4 军（张发奎，当时为代理军长）、第7 军（李宗仁）、第8 军（唐生智）、第11军（从第4 军的第10师改编，陈铭枢）以及其他几支战争力较弱的部队。但是这个文件警告说，倒蒋的内部斗争没有完全成功。写报告的俄国人错误地估计了武昌戍军司令陈铭枢的观点，他已经被派到南昌去劝说中央执行委员会的委员到武汉参加那里的有争议的全会。他在3 月6 日从南昌回来，那天晚上他被迫放弃他对第11军的指挥权而离去。该军转归左派张发奎指挥。
此时在南昌，布廖赫尔将军及在蒋介石司令部的俄国参谋们制订了攻占长江下游地区的战役的计划，虽然他们反对立刻向东面突破。布廖赫尔主张向河南推进去对付奉军，与冯玉祥的军队会师，然后沿陇海铁路向东移动。根据切列帕诺夫的说法（他的著作部分地根据俄国的档案），鲍罗廷主张一个与蒋介石针锋相对的行动。按照布廖赫尔的计划，在长江下游的战役之前，应该沿京汉线北上向郑州和洛阳挺进，为的是与冯玉祥会师，冯的军队此时集中在陕西- 河南的边境。双方都在与冯玉祥的代表谈判。事实上双方在1927年头几个月都在与几方面的指挥官谈判，以铺平胜利的道路——其中有河南的靳云鹗将军和魏益三将军、安徽的陈调元将军和王普将军、江苏的孟昭月将军、上海的杨树庄海军司令和毕庶澄将军。
蒋介石与“军阀”中最强大的张作霖间接谈判。他是根据12月7 日一次会上，与鲍罗廷和国民党一批领导人作出的关于消灭孙传芳和联合张作霖的决定而这样做的。如果要消灭孙传芳，重要的一步是劝说张作霖不支持他。孙传芳已经与张作霖及其部将张宗昌结盟；张宗昌于是派他的鲁军南下支持——或代替——孙传芳。蒋介石的谈判通过中间人一直进行到3 月份，并打算推迟与强大的奉军的战争；但蒋介石可能在寻找更多的力量以反对他的武汉对手。张作霖的保持中立和划分势力范围的条件，显然包括蒋介石与中国共产党决裂并对它进行镇压。
在2 月和3 月份，一些共产党作者抗议蒋介石与张作霖和日本谈判的“罪行”。有大量证据证明，为了有助于与张作霖谈判，以及预期的对上海强攻，蒋介石正在谋求与日本达成谅解。通过各种方式，他试图使日本以及其他列强相信，他们不用担心他的军队夺取上海的后果。对国民党阵营中日益发展的不和得到详细情报的日本政府，倾向于与蒋介石可能和解的意见。
蒋介石始终需要钱去进行夺取上海的战役；他对武汉政策的抱怨之一是它不提供经费。蒋介石是宁波人，并曾长期住在有巨大宁波帮——在工商业和下层社会都有很强的实力——的上海，因此他在这个大都会有很有用的关系。1926年后期，上海华人商会会长虞洽卿到南昌访问蒋介石，据说提供了中国工商业巨头给他的大量支持，以帮助他拿下这个城市。下层社会的头子和法租界的华人督察长黄金荣据说也访问过他。蒋介石的结拜弟兄黄郛在上海充当筹措资金的中间人。他带给中国银行副总裁张嘉璈一封蒋介石的密函，要求银行增加财政援助，张在1927年1 月拨给几十万中国元。蒋介石还派他的军需局局长俞飞鹏前往上海安排借款事宜；俞成功地又从中国银行提取了100 万，并据推测他使用类似的手法，在别的地方还搞到更多的钱。美籍犹太人索克思可能在劝说英美烟草公司提供200 万元（以未来的印花税担保）贷款时起过作用，这笔钱存入中国银行，资助何应钦的第一军。
行动和反行动
当薛岳的第7 军第1 师在1927年2 月18日占领杭州时，蒋介石夺取上海的计划向前迈进了一步。他从江西东部向浙江省省城的猛攻，得到了第2 师和已在12月份倒向国民党的周凤岐将军率领的第26军的支援。何应钦全面指挥东路军，但是白崇禧将军指挥先头部队。在夺取杭州（坐火车到上海的距离为130 英里）后，国民党部队谨慎地向离上海约47英里的要冲嘉兴推进，双方都在准备一场不可避免的争夺上海之战。孙传芳元帅与南京的新盟友张宗昌元帅商量后，把上海的防务移交给鲁军。在过渡时期，孙的部将李宝章将军仍担任淞沪警备司令。在此期间城内的共产党领导人从其他集团取得尽量多的帮助，发动了反孙传芳元帅的第二次“上海暴动”，暴动从2 月19日持续到24日，有效地使这个城市陷于混乱。
暴动显然有两个目的：扰乱孙传芳的后方，进而协助国民党人的推进；在国民革命军到达前尽量夺取对中国城市的控制，使它们成为共产党和国民党左派的工具。暴动是通过总工会的恐吓团小组和暗杀几个反对罢工的中国工头及其他人的行动而强制进行的。李宝章无情地镇压暴动，派大刀队到上海县城的街头砍煽动者——其中许多人为学生——的头。可是，暴动导致数十万工人（报道的几种数字大不相同）进行了一次政治罢工，表现了上海共产党员的力量。它也坚定了中国工商界和国民党内右派反对他们的决心。它加强了英国政府防止另一次“汉口事件”的决心，法国、日本和美国作好了保护其国民的准备。这样，在蒋介石寻找盟友时，暴动很可能帮了他的忙，它同时还加剧了共产党中央委员会1 月26日政治报告预见到的危险：外国帝国主义和国民党右翼以及所谓国民党温和分子结盟反对苏俄、共产主义和工农运动。
3 月10日，期待已久和争论激烈的国民党中央执委会第三次全会在汉口召开，有33名代表参加，但没有蒋介石；蒋留在南昌准备长江下游的战役。除三人外，与会者都可确认为国民党的左派（在当时），或是国民党内的共产党员。全会开了一个星期，通过了一系列旨在“恢复党的力量”的决议。它们重新组合了所有高级党政委员会，把蒋的对手、从莫斯科回国途中的汪精卫抬为这些机构的第一把手。这些决议使蒋在几个委员会中与其他人处于平等地位，但又把他排除在党的主要决策机构政治会议的主席团之外。主席团重新设立了军事委员会；该委员会在北伐即将开始时被撤消，以便于总司令部活动。蒋被选为军事委员会七人主席团的成员，但是汪精卫在名单中名列第一，其他三名成员唐生智、邓演达和徐谦又是蒋的对头。汪精卫被选为党的重要机构组织部的部长，以代替蒋介石，国民党内的共产党员吴玉章在汪抵达前领导该部。
对蒋介石及其集团的另一个侮辱，是宣布广东和广西省党部和广州市党部选举无效的决议，这些机构在张静江和陈果夫的指导下已经进行了改组。另一项关于统一对外关系问题的决议，禁止不负责外交工作的任何党员或政府官员——尤其是军官——直接或间接与帝国主义打交道（除非奉命打交道），否则将被开除出国民党。这项决议是针对蒋介石的，因为他的部队不久将不可避免地在上海与外国列强接触。其他的决议号召国民党和共产党之间更多地进行合作；决定停止在国民党刊物上批评另一党；恢复成立一个有共产国际代表参加以解决两党冲突的委员会的想法；呼吁共产党指定其党员参加国民党政府和省政府；强烈地要求共同指导群众运动，特别是农民运动和工人运动；决定派一个三人代表团去共产国际，商谈关于中国革命及其与世界的关系问题。
当汉口正作出削弱蒋介石权力的决定时，他的集团在江西采取了反对共产党员和左派的行动。3 月11日，蒋介石的一个部下处决了赣州（江西省南部一个主要城市）总工会的一个共产党领导人陈赞贤，并解散了工会。3 月16日，正当蒋介石准备征讨长江下游时，他下令解散支持武汉集团的南昌国民党市党部，并命令他的部下对它进行改组。几天以后，当他抵达九江时，他的部下猛烈地镇压共产党领导的总工会和国民党九江市党部。3 月19日，蒋介石来到安徽省省城安庆，它由于陈调元和王普倒戈而投向国民党一边。23日，在五个匆忙组成的反共产党的省协会（其中之一取名总工会）和共产党员之间进行的斗争，最后导致了共产党员的离散。这些是不祥之兆。
夺取上海和南京
蒋介石沿两条路线，组织夺取长江下游几个重要城市的猛攻。一路是沿长江两岸而下，其右岸的军队由程潜带领，目标是南京，其左岸，即北岸的军队，由李宗仁率领，目标是切断敌人南北向的生命线津浦铁路。另一路指向上海，上海位于一个三角地区的东端，其西南角是杭州，西北角是南京，大运河和太湖在西面形成了一条底线。到3 月中旬，已经攻取杭州的部队在前沿指挥官白崇禧的率领下在离上海不远处进入阵地，同时何应钦的部队在太湖的两边向北进逼，以切断沪宁铁路，这是孙传芳的残余部队和毕庶澄将军的生力军的主要退路。驻上海的中国舰队的杨树庄海军司令，早已通过他在上海的主要代表钮永建在与国民党进行谈判。3 月14日杨司令宣布他的舰队投向国民党部队；在此以前，他已派三艘船沿长江直抵九江，供蒋介石使用。3 月份第三个星期的遭遇战以及在铁路线上的罢工和破坏，使张宗昌非把他的部队朝南京方向撤退不可，否则就面临被围的危险。
3 月18日，国民党军队的一次进攻突破了松江的前线，北军撤入上海，但没有进入外国租界，租界由一支在各入境处布置路障的多国部队保护。毕庶澄就自己的投降进行谈判，把作战计划交给钮永建，然后乘日本船逃到青岛再前往济南，他在济南被捕和处决。
3 月21日星期一，当白崇禧的部队逼近城的南郊时，总工会开始了“第三次暴动”，到那个时候，工人纠察队约有3000
人，由黄埔军校的学生训练，有的人有步枪和手枪等武器。几个游击小组也已渗入城中，恐吓小组——西方报道称：“黑衣枪手”——又在活动。暴动在中午开始，纠察队和枪手攻击街头的警察，攻占华界中的警察署，还抢夺武器。与此同时，数千名工人进行了一次总罢工（有的地方在必要时是强制进行的），虽然当时的气氛是庆祝和欢迎国民革命军。城内挂满了国民党的旗帜。经过一天的混乱以后，共产党组织的地下力量，在群众支持下似乎已经解放了华界，虽然与国民党代理人共同制订计划的程度有多大还不清楚。约4000或5000名北军仍集结在通往南京的铁路的北站附近的闸北。根据当时的报道，发生多起抢劫、纵火和杀人事件，有的是北军干的，有的是已经夺得城市几个部分的非正规军干的。在这些非正规军中，有的可能既不属于国民党，也不属于共产党。可是，暴动看来是有的共产党领导人作出的努力，即企图夺取对上海华界的控制，为他们已经组成的临时政府作准备。领导暴动的人中有周恩来、赵世炎、罗亦农和汪寿华。
3 月22日，白崇禧率士兵两万在城南部边缘的兵工厂设立他的大本营。他的部将、指挥强大的第1 师的薛岳将军降伏了残留的北军，他们之中的大部分人随即被拘留在外国防线的后面。白将军宣布了他的维持秩序的权力，要求所有非正规军并入他的军队，或者缴出武器，并答应外国当局他不允许出现用武力接管外国租界的行动。他下令结束总罢工，他的命令在3 月24日执行。在23日至26日期间，白崇禧的部队在对几个游击中心的一系列进攻中，围捕了20名自封的将军（其中有一名共产党领导人）和许多“黑衣枪手”，大部分领导人据说被处决。几支武装良好的工人纠察队的大部队留在三个中心，纠察队把它的控制扩大到黄浦江对面的浦东。
北军于3 月23日撤离南京，晚上程潜将军指挥的国民党的右岸军随即进城。24日清晨，国民党士兵有组织地抢劫了英、美、日的领事馆，打伤了英国领事，在全城攻击和抢劫外国国民，杀死两名英国人、一名美国人、一名法国人、一名意大利神甫和一名日本海军陆战队的士兵。下午3 时30分，两艘美国驱逐舰和一艘英国巡洋舰，向美孚煤油公司的住宅区周围发射了一阵组成屏障的炮弹，以掩护约50名外国人（大部分为美国人和英国人）逃离。根据中国人的单独的调查，向这个人口稀少地区的炮击杀死了4 名、6 名或15名中国平民和24名军人。更早公布的中国和俄国的报告断言数千名中国人被杀。炮击很快抑制了对外国人的进一步进攻。下午进城的程将军恢复了他的部队的秩序；25日，所有希望离开的外国人都可以安然安排撤退，虽然外国财产又被掠夺和焚烧了几天。
除了真正参加的穿国民党军服的士兵外，对南京事件直接负责的人似乎没有公正地确定下来。3 月25日，程潜发表公开声明，断言南京的反动分子鼓动敌军和地方流氓抢劫外国人的财产和焚烧房屋，甚至还发生了伤人和杀人事件。同一天，第6军第17 师师长杨杰告诉日本领事森冈正平，士兵受到了南京的共产党党员的煽动。领事向其政府报告说，暴力行动是由第2 、第6 和第40三个军内的共产党的政委和下级军官以及共产党南京地方委员会的党员计划的。国民党军官在给武汉的报告中，继续把攻击归咎于北军和穿国民党军服的流氓，但是西方在华的外交官及其本国的外交部，很快就接受了日本领事的说法——共产党的煽动。这个解释后来也被国民党中的蒋介石集团所接受。
南京事件是北伐期间的一个独特事件：以前没有发生过这种造成死亡和大规模财产损失的对外国居民的广泛攻击。这次事件给上海的外国租界制造了危机气氛。在北京，英国、美国、日本、法国和意大利的公使们就报复问题在他们内部和与各自的政府进行了磋商。他们就报复的一系列要求取得了一致意见，但是他们的政府不同意制裁，即使国民党尚未道歉和惩罚那些有罪的人。日本政府在外务大臣币原喜重郎的影响下，试图抑制英国和其他列强，使之不采取过于好战的态度，同时希望说服蒋介石和国民党的温和领导人去解决当前问题和最后稳定整个南方局势。总之，蒋介石被鼓励去反对他党内的激进分子。日本驻上海总领事矢田七太郎通过蒋介石的亲密同事黄郛，把他的意见转达给蒋。英国政府对国民党人的政策强硬起来了。英国此时已经掌握了进行各种惩罚的力量，但美国政府不同意参加制裁。结果，经过持久的国际间的争论后，列强没有采取直接制裁的行动：国民党内部权力斗争的发展消除了这类想法。
武汉政府在开始时对南京事件很不了解。外交部长陈友仁从英国驻汉口代表台克满那里了解到南京外国人社区所发生的一切详细情况，并得到美国和日本领事的证实。政治会议直到4 月1 日才充分了解南京事件的情况及外国首都反应的某些迹象，于是认真地考虑如何应付这个局面。英国和美国看来准备干涉，而日本的政策仍不明朗。鲍罗廷直率地指出——“如果帝国主义者真的帮助反革命，这能导致革命军的毁灭”。他的建议是人们很熟悉的：分裂英国和日本。通过平息日本人对革命的恐惧，通过担保在华的，特别是汉口的日本人能得到保护（根据陈友仁的说法，日本居民害怕他们的租界将被夺走），这是能够做到的。要每天对外国进行宣传，特别是对日本和英国的人民，让他们起来反对干涉，宣传内容是责备帝国主义应对南京事件负责，并辅之以道德的呼吁。同时，必须明确地向所有中国群众组织，“特别是向我们的武装起来的同志们”解释政治会议关于在华外国人应受到保护的政策。政治会议同意这个方案。
事态的发展很快使政治会议向日本保证汉口日本租界安全的决定成为泡影。4 月3 日，在一名日本水兵和一名人力车夫之间的殴斗导致人力车夫被杀后，愤怒的群众杀了两个日本人（根据中国人记载，抓了10个日本人）。在这种一触即发的局势中，日本海军陆战队被派登陆，用机枪扫射，打死了9 名中国人，打伤了8 名。日本当局撤走了大部分日本妇女和儿童，关闭并派兵驻守日租界的边界，同时派来更多的舰只。为了与政策保持一致，武汉政府试图尽量缩小事件的严重性，同时使中国人的激情冷静下来。它下了禁止报复的严格命令。它的命令是武汉领导集团为了控制迅速发展的革命事态而作出的许多努力之一。
控制上海的斗争
蒋介石在3 月26日星期六下午来到上海，于是在争夺上海县城控制权的复杂斗争中，各派力量立刻开始组合，虽然这一斗争只是更大的争夺国民革命的权力的一个方面。共产党员和国民党左派一边是拥有自己武装纠察队的总工会；几个学生、妇女、新闻工作者和街头商人的“群众组织”；以及当地的共产党员。苏俄对这一边提供建议和一定数量的物质支援。另一边有上海及其周围几支国民党军队的指挥官（薛岳也许除外）；长期把上海当作自己据点并与中国的金融、商业和工业巨头有良好关系的国民党“老右派”，这些巨头有自己反对好斗的劳工运动的理由；最后是上海下层社会的帮派领袖，总工会在与他们争夺对上海工人的控制权。公共租界和法租界的外国行政当局和巡捕友好地倾向于这一边（维持法律、秩序和使特权继续下去的一边）；支持这些势力的是大部分外国领事；作他们后盾的是一支约有40艘军舰和16000 名外国士兵的力量。看起来这是一场力量不平衡的争夺，但是它花了三个多星期才告结束。
左派试图发动上海的群众支持他们。星期日，总工会在闸北的湖州会馆设新办事处，汪寿华主持了一次集会，会上许多组织的代表通过了几项决议：要求归还租界；保证支持国民政府和上海平民的政府；强烈要求薛岳留在上海（谣传他的师即将调走）。在浦东，一批工人被指控为反革命，据报道已被总工会下令处死。下午，在靠近法租界的西门的一次大集会上，群众聆听了要求立刻占领租界否则就举行总罢工的措词激烈的演说。国民党部队阻止了随之进行的游行，以防拥入法租界。美国总领事报告说局势非常紧张，他怀疑蒋介石是否有控制这种局势的意志或力量。
蒋将军试图缓和紧张局势，还可能想使他的对手平静下来。在同一天，即3 月27日的晚上，他会见了几名美国记者，表示对他们国家的友好态度。他反对外国人准备保卫租界的行动，认为是“惊慌失措”的表现。他否认国民党内有任何分裂，并且承认共产党党员是革命运动的参加者，而不管他们的政治信仰如何。他还把南京事件归咎于穿南方军军服的北方部队。在3 月31日的另一次会见中，他抗议外国对南京的炮击，它已引起了强烈的排外情绪，并且呼吁不要把这个事件加以夸大。他要求上海的外国当局采取措施，以缓和中国民众和外国人社区之间的紧张关系；并且声称，他已经颁布了禁止暴民使用暴力或任何损害外国人生命财产的行动的指示。他要求外国当局结束戒严令，撤走他们的军队和军舰，由国民党军队来保护外国租界。总工会也已经在前一天发表了宣言，谴责国民党军队和劳动阶级已经分裂的谣言；它还宣布外国租界将被它指导的纠察队攻击的说法是不实之词。
蒋介石受到几个方面的催促，它们要求镇压上海好战的劳工运动和约束共产党员，但是准备工作要花时间。以虞洽卿、日本一家大航运公司的买办王一亭和伍朝枢为首的中国巨头，组成了一个商业联合会，在3 月29日派代表去见蒋。他们强调立刻恢复城内和平和秩序的重要性，并提供财政支持。总领事矢田在蒋来沪后不久几次会见蒋的结拜弟兄黄郛，敦促蒋将军镇压捣乱分子，以及收拾南京事件的残局。上海的主要的英国报纸《字林西报》的一篇社论评论说，如果蒋将军要“从赤色分子手中拯救他的同胞，他必须迅速而无情地行动”。
以吴稚晖为首的一个有威信的国民党老党员集团对蒋介石施加压力，要求清洗党内的共产党员。这个集团是1926年1 月在广州的“左派”的第二次全国代表大会上选出的中央监察委员会的一部分。3 月28日12名正式委员中的5 名非正式地开会，通过了吴稚晖提出的从国民党驱逐共产党员的决议。这一努力后来被称为“护党救国运动”。其他与会者为中国知识分子的“老前辈”蔡元培、孙逸仙和蒋介石的富裕庇护人张静江、辛亥革命的老战士和孙逸仙的财政负责人古应芬以及归国留法学生的领袖李石曾。4 月2 日，这个集团再次会见蒋介石的亲信、国民党组织部副部长陈果夫，中央监察委员会的两名候补委员李宗仁将军和黄绍竑也在场。李、黄二人是广西集团的领袖，黄是应蒋之电召而来上海的。这次会见产生了一份列有在国民党内担任要职的197 名共产党员或可能是共产党员的名单，并决定把名单送交中央执行委员会，要求把名单上的人置于监视之下。
蒋介石与应邀来上海的国民革命军主要将领交换意见。他们包括：南京来的程潜、贺耀组和何应钦，江左军的李宗仁、广西的黄绍竑和广东的李济深，已在上海的白崇禧。其他的人是被赶出武汉的陈铭枢、安徽的柏文蔚和王普以及浙江的周凤歧。所有的人都是反共的。
汪精卫在巴黎“休假”后经莫斯科回国，于4 月1 日到达上海，受到盛大欢迎。很可能他是唯一有足够威信去弥合党内日益扩大的分歧的领袖。在以后的几天中，他与从武汉派来的宋子文，与监察委员会一派的吴稚晖、蔡元培和李石曾，与他的老同僚胡汉民，与他的对手蒋介石，以及与中国共产党的总书记陈独秀进行了头绪纷乱的会谈。4 月3 日，蒋介石向国民革命军的全体指挥官发电，以奉承的字眼宣布汪精卫的归国，并声称一切军事、民政、财政和外交事务都集中由汪主席指导管理；蒋介石只是全面地指挥几个军，并将像所有其他的指挥官那样服从主席。这样，党内的权力将被真正地集中起来，以便完成国民革命和加速三民主义的实现。蒋介石在私下就驱逐鲍罗廷和清洗党内的共产党员的必要性向汪精卫提出强烈要求。他警告汪精卫不要去武汉，他在那里必然成为共产党的人质。其他的人请求汪参加清洗，但汪主张召开中央执行委员会全会决定这样重大的事，并强烈要求他的同志们不要擅自行动。
汪精卫与陈独秀之间讨论的结果，是4 月5 日上午在上海报纸上发表的两人联合声明。声明首先强调革命阵营内部继续团结的必要性，认为共产党不论有什么过错，从没有主张推翻友党，即国民党。甚至在将来，中国也不可能实行无产阶级专政；现在所需要的是一种一切被压迫阶级用来对付反革命的民主专政。声明提倡两党党员之间的合作精神，并用领袖孙逸仙的联共政策提醒国民党员。它试图平息当时在上海流传的两种“谣言”——共产党打算组织工人政府，侵入外国租界，搞乱北伐军和推翻国民党；国民党的领袖们计划驱逐共产党，镇压工会及其纠察队。两党都没有这类意图。声明最后告诫所有同志要清除怀疑，制止谣言，为革命利益和两党利益互相尊重地善意地进行协商。
同一天上午，汪精卫参加了一个情绪激昂的会议，与会者中有决心驱逐共产党员的扩大的老党员集团和国民党的将领；然后他在傍晚偷偷地登上一艘轮船前往汉口。在致张人杰（张静江）和致蒋介石的信中，他说他正前往武汉安排准备于4 月15日在南京举行的中央执行委员会全体会议，以解决国民党内部的争端。武汉中心通过中国报刊和大约是4 月6 日的程潜的私人报告，能相当充分地了解上海几次会谈的情况。程将军在上海与蒋介石商谈，又会见吴稚晖和李石曾后，已把他的军队留在南京，自己前往武汉。武汉中心没有任何能约束蒋介石及其同谋者的有力措施，此外，武汉因自己的问题而分散了注意力。
革命者内部日趋激烈的暴力行为
在4 月12日前的两个星期，激进行动和反激进行动在广为分散的许多城市中爆发了，这是革命阵营内部此时出现的激烈冲突的表现。这些行动不仅仅是权力斗争；在冲突背后的是一些有重大革命意义的问题。至少在现阶段，国民革命的目标是单纯地通过消灭军阀和清除帝国主义特权来重新统一中国呢，还是又是一场把贫困的群众从他们的束缚中解放出来的阶级革命？在农村，佃农被发动起来是为了夺取土地，还是满足于减租？在城市，无产者是否不但要强迫资本家提高工资和改善工作条件，而且要通过工会，对他们的企业进行某种控制？群众暴力行为，包括谋杀，是不是把下层阶级从封建主义束缚中解放出来的一种可行的办法？总之，随着国民革命的进行，社会革命应进行到什么程度？民族主义使革命阵营团结；社会革命使它分裂。
各界领袖对这些问题都有自己的强烈信念，但是这些信念从激进到保守各不相同。为控制地方党部和政府机构以及竞相对下级军官和士兵进行灌输的斗争，都产生于这些不同的信念。在革命者——所有自认为是革命的人——中间，存在对立的青年、劳工、农民、商人和店员的组织。有的受共产党强烈的影响或被它所控制；而其他一些则是反共的。在劳工运动中，非共产党工会组织者与决心把工会运动当作共产党独占领域而加以控制的共产党活动家之间的对立，在六年前就已开始。
城市中爆发的冲突有一种固定的模式。激进分子通过宣传和街头宣讲，通过动员群众参加爱国集会和游行（行动时分发传单和呼口号，其中有的谴责一些保守的国民党领导人），试图赢得支持。典型地受共产党员控制的总工会的武装工人——所谓“纠察队”——保护激进分子的机构，强迫举行罢工。反激进的行动也遵循一个指向主要目标的模式：例如，广为分散的地方都用“拥护蒋总司令”、“驱逐鲍罗廷”这些同样的口号。随着冲突在有的地方激化，军事指挥官会下令逮捕共产党嫌疑分子和封闭他们控制的组织。有几次，忠于蒋的黄埔军校的学生也卷了进去。在部队的援助下，一个对立的劳工组织会进攻总工会的地方办事处，并解除它的纠察队的武装。4 月12日对上海纠察队的毁灭性打击不是一次突然袭击。
在浙江的省城杭州，在2 月18日夺取它以后，冲突的一方是左派的国民党党部、工会和学生会，另一方是反共的工会联合会、黄埔同学会和东路军的后卫部队。省国民党党部中一名很有影响的共产党员宣中华，试图逮捕工会联合会领导人和解散联合会，但是公安局局长和后卫部队的指挥官反对。3 月30日，在联合会的游行的职员和工人与总工会的武装纠察队之间一次血腥冲突以后，后卫部队指挥官禁止总工会在次日举行集会和游行，违者将以武装镇压。当学生和工人在纠察队率领下以各种方式游行时，士兵向游行者开枪，包围了左派的国民党党部并纵火焚烧，还解除了纠察队的武装。暴乱者砸了总工会总部。
同一天，即3 月31日，远在西面的四川省重庆出现了砸毁总工会和其他左派组织以及处决许多共产党嫌疑分子之事。重庆的国民党左派和右派之间的冲突可以追溯到1925年。主要右派领导人之一为石青阳，他是老资格党员和1925年后期反共的西山会议的成员。在1926年的大部分时期，那里有两个省党部、两个总工会和其他的对立组织。左派领导人中的两名共产党员是老革命吴玉章和后来闻名于世的刘伯承。1926年11月，控制重庆的四川将领刘湘突然倒向左派，下令驱散右翼组织。这事发生在北伐第一阶段的高涨期，当时国民党左派似乎呈上升趋势。可能在1927年初期，蒋介石和南昌政治会议命令反共的向傅义和吕超回到四川，去敦促刘湘和重庆警备司令王陵基采取反对共产党员的行动。2 月，吕超带领一支黄埔军校学生的分队到刘湘军队中工作。其他的反共集团也正在组织之中，而且大部分军事指挥官显然表现出敌视激进分子的情绪。为了加强自己一方的力量，国民党左派计划在3 月31日举行一次大集会，表面上是为了一星期前炮击南京的事件而反对英美帝国主义，但也是为了激起反对蒋介石的情绪。警备司令王陵基得到刘湘将军同意后，派士兵包围集会地点，逮捕了共产党嫌疑分子；他还派部队搜查吴玉章办过的两所学校，封了省、县和大城市的国民党党部，省农会办事处，总工会和《四川日报》，根据我们掌握的材料，它们都被共产党员所控制。当工人纠察队抵抗部队的逮捕时，出现了大量流血事件。6 名重要的地方共产党员被殴打致死，根据另一名共产党员给武汉中心的报告，有400 多人被杀，纠察队全部被击溃。从此以后清洗遍及四川全省。
4 月2 日在南昌，轮到左派去推翻他们的对手了。江西是国民党两派竞争的一个场所。在江西省被北伐军占领后，许多共产党员在那里活动，虽然在蒋介石把他的指挥部设在南昌时，他们的影响受到了抑制。国民党省执行委员会和政府委员会主要由“纯粹的”国民党员组成。有威信的老革命李烈钧担任省长，但是南昌国民党党部被左派所控制。当蒋介石在1927年3 月离开南昌时，他下令解散该城党部；但是随着他的离去，武汉中心加强了它在江西的影响。3 月26日，武汉的中央执行委员会指定一个8 人委员会去改组省执行委员会和省政府；8 人中6 人是双重党员。3月30 日，中央执行委员会任命第3 军军长朱培德为省长，以争取他的支持。为了执行武汉的决定，左派动员他们在学生和劳工中的支持者，在4 月2 日策划了一场暴动的政变。这一次，南昌警备司令、朱培德的部下王俊显然予以配合，或者保持中立。后来成为著名的共产党将军、当时指挥军官教导团和主持南昌军校的朱德支持这场政变。在省政府任职的一批国民党员被捕，约20人被杀。李烈钧离去，朱培德担任了他渴望的省长并恢复了秩序。在收到蒋介石一封严厉的电报后，他保护了被捕的国民党官员，虽然有几人被人民法庭审判并判以死刑。
在福州，力量的对比似乎比较平均，事态的发展呈现略为不同的形式。国民党内两名共产党员马式材和李培桐控制了省党部，并派助手们在各县组织分党部和建立一所政治训练学校，其中的一批教员是共产党员，通过党部，他们成立了通常的青年、妇女、农民和工人的组织。在另一方，“纯粹的”国民党活动家成立了青年、妇女和工人的反共组织，甚至成立反共的总工会和省农民协会。此外，当时仍在福州的何应钦不准共产党控制的工会组织纠察队，也不准成立农民卫队。在3 月份，双方试图在示威行动中集结它们的力量，并出现了双方之间的街头冲突，但冲突被警备司令压了下去。3 月19日，黄埔同学会福州分会成立，从而加强了反共一方的力量。4 月4 日，保守力量在一次“拥蒋护党”的集会上集结，保守分子通过了支持总司令为革命军领袖、驱逐鲍罗廷以及处分徐谦、邓演达和谭平山的决议。作出这类决议的指示只可能来自上海。集会还决定惩罚那些“破坏党的工作”的地方共产党党员和左派分子，包括马式材和李培桐。美国驻福州的领事报告说，“实际上等于反共产党的政变，包括完全改变省的行政……据说是直接奉蒋介石之命进行的”。4月7日，一个更保守的党的领导集团正式成立了新的省党部。同一天，马式材和其他几个人逃离福州，但是失败一方的约10个人“或早或晚地陷入罗网而被处死”。
4 月6 日，外交使团准许京师警察厅对苏联使馆的某些建筑物进行一次突然搜查。颁发搜查证的理由，是怀疑中国共产党党员正在利用中东铁路和远东银行的办事处策划在北京搞一次暴动。在搜查中，警察逮捕了22名俄国人和36名躲藏的国民党党员，其中包括中国共产党缔造者和主要理论家之一李大钊。国民党市党部执行委员会的9 名委员中的6 名被抓。警察发现了中国共产党以及国民党的文件，以及共产党党旗、印章和一定数量的武器和弹药。此外，当警察看到苏联武官处的俄国人正在烧他们的文件时，就扑灭了火，搬走了七卡车文件。搜查的直接后果是破坏了国民党和共产党在北方的行动，还可能破坏了俄国军事顾问与北京武官处的联系。次日，天津法租界当局搜查了租界内的俄国机构；在上海，工部局命巡捕包围苏联领事馆，禁止人们接近。这样，西方列强确实削弱了苏联对革命者的援助。经过北京中国法庭的审判，李大钊及其他19名在搜查中被捕的中国人在4 月25日被处死。其他10人被判以徒刑。在被处死的人中，有几名是被北京共产党组织怀疑的国民党党员。
在上海，许多行动预示着蒋介石及其支持者与武汉中心和中国共产党的最后决裂。据报道，蒋介石的两名心腹杨虎和陈群，是他与长江下游最有实力的底层帮会青帮的领袖之一杜月笙联系的中间人，他们劝说杜月笙领导一次反共行动。杜月笙成立“共进会”来进行这次行动。到4 月3 日，公共租界的巡捕房已经得知青帮的领袖们已为青帮招募了几百名武装亡命徒，他们被安置在法租界；顺便说一句，蒋介石已经付给这些头目60万中国元。到4 月7 日，公共租界的巡捕得知，这些亡命徒的目的是攻打总工会的总部。杜月笙与上海总工会的共产党领导人汪寿华相识。更确切地说，他们是争夺对上海工人的某些部门的控制的对手。
在4 月份的头三天，第1 军第2 师师长刘峙将军奉蒋介石和白崇禧之命派兵攻打包括一支纠察队分队的武装游击队，杀死了几十人，逮捕的其他的人被押到龙华受审。他的副官在4 月4 日告诉《字林西报》记者，“将近一个师”的非正规部队已被解除武装，但由于总工会的工人纠察队未干预军务，“队员没有被解除武装”。但是，如果纠察队有任何破坏安定的行动，“他们也将被镇压和解除武装”。4 月5日，蒋介石颁布戒严令，并下令解除一切未正式加入国民党军队而携带武器的人的武装。次日，白崇禧封闭了武汉中央命令设立的中央政治部的办事处，并命令检查汉口发来的电报和信件。8 日他对设在毗邻法租界的旧城南市的总工会总部进行搜查。19名共产党嫌疑分子被捕。同时，蒋将军把第1 和第2 师调往南京，他在那里还有事要做。
蒋介石前往南京的目的是要控制与其盟友打算设立政府的所在地。为了做到这一点，他必须保卫该城免受北军的进攻和消灭内部的颠覆分子。蒋介石命令第2 和第6 两个军渡江去迎战敌人，并派第1 军的两个师来加强城防。两个师的大部分军官是原来黄埔的教官和毕业生，他能够指望他们服从他的命令。
在南京城内，一场复杂的斗争正在进行。第2 军和第6 军的两个政治部分别由双重党员李富春和林祖涵领导，李是留法的年轻归国留学生，属于激进派，林是辛亥革命老战士，又是重要的国民党领导人和国民党中央执行委员会的委员。在3 月24日夺取南京后，在两个政治部的领导下开始了成立总工会和其他群众组织的惯常活动。在第6 军夺取南京时，林祖涵没有在这个军，而是在3 月底来到军内逗留了几天，为武汉一方争取支持。4 月1 日，江苏省党部从上海搬到南京，它是一个左派集团，其中据说是共产党员的张曙时和侯绍裘是引人注目的人。张曾经代表江苏省省党部出席第三次中央执行委员会全会，于4 月3 日从汉口沿长江而下到南京，他后来给武汉中心的报告虽然有偏见，却是关于南京正在发展的冲突的第一手材料。他已知道两名“反革命流氓”已经组织了一个对立的市党部，但是第6 军的政治部关闭了这个机构，逮捕了它的几个党徒。他还知道一个不祥的消息：“安徽省党部的破坏分子，即流氓杨虎”将负责南京特区，而另一个“反革命流氓”进行破坏工作。这些人组织一个“主要雇用流氓”的劳工协会。政治部不能关闭它，因为它得到公安局首脑的保护。左派计划搞一次集会，试图通过群众行动关闭劳工协会，但是公安局禁止这次集会，违者将以武力镇压。省党部于是决定举行庆祝军民联合的集会，第二天再举行庆祝汪精卫归国的大会。第一个大会令人失望，因为第2 和第6两个军已经渡过长江，只有第6军的政治部和少数武装同志出席。第1 军无人参加。这是军事力量发生变化的信号。与此同时，汉口的鲍罗廷在听了程潜和李富春关于蒋介石计划的报告后，在4 月7 日召开紧急政治会议。会议决定中央党部和国民政府应搬到南京。但为时已晚。
蒋介石和何应钦在4 月9 日午到达南京，留下白崇禧和周凤岐把守上海。南京实施了严格的戒严令。那些曾经计划举行欢迎汪精卫的盛大集会的人，感到应该加一些欢迎蒋介石的标语和旗帜！但是集会显然永远不会举行。一批武装流氓——雇用费每天四元——攻打和砸毁了国民党的省、市党部，捆绑了它们的工作人员，其中包括省农民部和商人部的负责人、宣传部和妇女部的干事、书记处的职员，把他们交给公安机构。有几人据说是共产党员。张曙时在搜查时躲了起来，但后来被捕，关了一夜。他就是这样得知蒋总司令是这些行动的幕后人物。为了反击这些进攻，左派派工人到总司令的司令部向他请愿，要求保护国民党的省、市党部和总工会，但没有奏效。第二天，左派成功地举行了一次大会，会后“群众”又去见总司令请求保护。这一次他们与军警发生了冲突，许多人受伤。4 月10日和11日是恐怖的两天：武装流氓攻打总工会，宪兵搜查张曙时的同志居住的旅馆和其他地方，抓走了一批人。侯绍裘与另外一些人被杀。张曙时乘小船穿过水闸逃走，最后前往汉口。南京对武汉的支持者来说再也不是安全之地了。
厦门和宁波在9 日和10日发生的类似冲突，以保守一方取得胜利而告终。在广州，美国领事在4 月9 日报告说，局势正变得非常紧张，可以预料，温和分子和共产党员之间的冲突会在任何时候发生。中国报纸发表了李济深的来电，电报声称，由于汉口的行政当局被共产党员所控制，它的命令就不必服从。这不过是即将在4 月15日开始的可怕的清洗的一个暗示。
尽管有这些行动和不祥之兆，上海的共产党领导集团几乎没有办法来阻止一次打击。由于没有掌握4 月份头两个星期的党内文件，所以我们难以了解中央委员会和总工会的一些领导人所作的准备。陈独秀后来透露，共产国际曾指示共产党把所有工人的武器藏好或埋起来，以避免与蒋介石发生军事冲突。按照A.曼达利安的说法，电报于3 月31日发出。隐藏武器的命令显然没有执行。相反，领导集团试图对工会和纠察队实施严格的纪律，争取公众的支持，和万一敌人试图解除工人武装时准备进行一次总罢工。在一次于河上一艘因罢工而停驶的船上开的秘密会议以后，上海总工会在4 月4 日举行了一次由总工会大胆敢干的领导人汪寿华主持的较为公开的集会，会上决定——也就是宣布——纠察队员在使用火药武器时必须明确地服从总工会的规定，工人如果没有工会的命令不得宣布罢工。公众应当被告知保持武装纠察队的必要性。第二天汪精卫和陈独秀发表联合声明，旨在缓和紧张的气氛和取得公众的支持。但是总工会的执行委员会决定，如果任何人试图解除工人武装，就下令举行一次总罢工。在闸北，工人纠察队进行武装游行，以显示力量：7 日，工会代表的一次集会决定，如果任何人危害纠察队，或者对它采取武力行动，全上海的工人必须奋起支持纠察队，用群众的力量来制止这种行动。同一天在一次左派集会上通过的决议，表明了激进分子所关心的问题：环龙路的国民党右翼集团应当被镇压，其成员应当予以逮捕和惩罚；上海的国民党应受汉口的中央执行委员会的节制和指导；刘峙应被撤职和受到惩罚；应力促薛岳将军留在上海控制军事；所有的反革命分子应被镇压，所有工人应该武装起来。
反共清洗的扩大
白崇禧、杨虎、杜月笙和他们的同伙，周密地制订了解除强大的上海工人纠察队武装的计划。杜月笙征募的暴徒配备了手枪，组成有特定攻击目标的分队，穿着有“工”字袖章的工人服装，几百名白崇禧部队的士兵也这样伪装。4 月11日晚，汪寿华应邀至杜月笙公馆赴宴。当他正要离开时，他被劫持而遭杀害，尸体被弃于龙华。周凤岐的部队在晚上已进驻靠近工人纠察队集结地和总工会总部的阵地。公共租界和法租界当局事先已接到通知。两租界当局午夜后被告知迫在眉睫的攻击，命令关闭租界周围的路障，以阻止有人逃入外国庇护地。可是正好在4 月12日黎明前，杜月笙的“工人”却获准从法租界向外移动，白崇禧伪装的部队获准通过公共租界。
在凌晨4 时和5 时之间，总数约1000人的几支进攻特遣队，向毗邻公共租界的闸北、紧挨法租界的老南市、黄浦江对岸的浦东以及黄浦江在那里流入长江的吴淞等纠察队集结地开火。有几个地方，防守者英勇抵抗，但有的地方，他们中计投降。在某些地方，周凤岐第26军穿制服的士兵参加进攻，在另一些地方，他们假装在冲突的劳工组织之间恢复秩序。根据早期的报告，约25至30名抵抗者在战斗中死亡。被捕的左派一方的领导人被解往白崇禧的司令部，根据一份新的报告，145 人在那里被处死。周恩来和纠察队的一个共产党领导人顾顺章，也与其他人一起被捕，不过两人都逃脱了。周凤岐将军缴获了大量工人的武器，约3000支步枪、两挺机枪、600 支手枪、大量弹药以及许多斧子和长矛。在解除了纠察队的武装后，部队和流氓工人封闭了各种各样的左派组织的办事处。
战败者试图集结他们的支持者。总工会领导号召举行一次总罢工；尽管白崇禧下令禁止，仍有10万多工人（许多人在纠察队的恫吓下）在第二天不去工作。但是罢工不能持久。13日在闸北集合后，示威者游行到周凤岐的司令部，要求释放被捕者和归还工人的武器，在游行的人中既有武装人员，又有妇女和儿童。当司令部的卫队向游行队伍开枪时，几十名无辜者被杀。在大约90名被捕者中，40多名为原来的鲁军，他们被雇佣而成为纠察队员。那天傍晚，新组成的工会统一委员会接管了总工会；它将是蒋介石把劳工运动纳入保守分子控制下的一个工具。4 月12至14日的可怕的镇压，粉碎了左派指导的上海群众运动。数百人被杀，数千人胆战心惊地出逃。总工会领导别无选择，只能在4 月15日取消罢工，并给武汉政府送了一份猛烈谴责蒋介石和请求援助的报告。
革命摇篮广州也经历了一次对共产党领导的组织的同样残酷的镇压，许多知名激进分子被杀。已被武汉中央“罢官”的李济深开完上海的保守会议后，得意洋洋地于4 月14日回到广州，当夜他召开秘密紧急会议。会议参加者成立了以李将军为首的特别委员会，以计划和执行“清党”行动。广州警备司令钱大钧宣布戒严令在4月15 日开始，广州公安局局长也颁发了类似的公告，说他已接到国民革命军总司令的命令，命他立刻逮捕广州所有共党分子，解除工会纠察队的武装。在4 月15日黎明前几小时，清洗开始。
几个营的士兵和2000名武装警察包围了香港罢工委员会、广州工人代表大会和几十个激进工会的总部，解除了卫队的武装，逮捕了领导人。在通往汉口的铁路终点站黄沙车站，铁路工人工会与其老对手保守的机器工人工会之间展开了一场对阵战。在士兵的支持下，机器工人占了上风。中山大学、两所受激进思想影响较为厉害的中学和两家国民党报社，也遭到搜查，报社其后被改组而受保守派领导。4 月16日，街上出现了支持蒋介石和支持把政府迁往南京（此事即将实行）的标语。由于共产党影响被认为在黄埔军校学生中很强烈，他们都被解除了武装，但是大部分学生支持总司令。4 月18日，约200 名被怀疑是共产党员的学生被捕，其他的学生逃走。少数几个工会能够发动一次从4 月23日持续到25日的抗议性罢工，但结果约有20多或30多名工人领袖被捕。在散布反政府宣传时被捕的7 个人被处决，其中有两名女学生。43个工会被迫改组。突击搜查继续到4 月27日。到那时，约2000名被怀疑为共产党员的人已经被捕。在几十名被处死的人中，有刘尔崧、李森（李启汉）和萧楚女，他们都是已经加入共产党的左派斗士。
李济深和特别委员会还改组了省政府。孙逸仙的老同事和保守的国民党员古应芬成为广州的主要文官，而李将军实际上依然是军事长官。新政府向武汉中央宣布独立，这样对武汉的领导集团来说有两个严重的后果。有800 万银元储备的广州中央银行不再支持武汉，这就削弱了武汉已经不可靠的通货。此外，追随武汉的三个省往南通海的路线被切断；它们只能通过长江在东面不牢靠地与海相通。
广西省的几个城市（根据上海会议的参加者之一黄绍竑的命令）以及汕头、厦门和宁波等口岸城市，都出现了类似的镇压。杨虎监督宁波的改组工作。广东、浙江和江苏省几个小城市的国民党党部和工会的左派领导人也遭到清洗。南方和东部几个沿海省份的这些行动并没有使1920年以来迅速发展的劳工运动结束，但是共产党的影响急剧地减弱了。党员们或是转入地下，或是逃到武汉庇护地——而事实证明，那里不过是一个临时的庇护地。
武汉的一些激进的劳工领导人，可能对上海杀害他们的同志怀有报复情绪，而于4 月14日处死了8 名反对共产党控制湖北工会的老资格工会组织者。他们被邓演达的政治部逮捕，并被谴责为“工贼”。4 月10日，武汉的共产党劳工领导人举行湖北总工会代表会议，会上决定把这8 人交给“群众”处决。几天以后，郭聘伯、卢士英、袁子英和另外5 人经法庭宣判，被行刑队在汉口街上枪决。在激进主义的中心长沙，据报道估计有30至40名与外国工商业有联系的中国人已被处死。其中有著名的学者和保守分子叶德辉。
建立南京政府
在上海的保守的国民党领导人，在南京成立一个对立的中央机关和独立的国民党政府，从而扩大了他们与武汉的裂缝。他们在南京集合，表面上等待武汉中央执行委员会的委员，以便举行一次应由汪精卫安排的全体会议。当汪精卫等人没有到来时，9 名自封的中央政治会议的成员增选了另外9 人；这个集团在4 月17日决定第二天在南京成立中央政府。在作出这个决定的人中，只有5 人是中央执行委员会委员，而该委员会有委员36人，候补委员24人。8 人是中央监察委员会委员，而该委员会有委员12人，候补委员8 人。余下的5 人是将军。如果以在武汉活动的中央委员会委员的人数来衡量，武汉集团更有合法性，可是南京集团有几名很有声望的人，著名的有胡汉民、吴稚晖、蔡元培、李石曾、张静江和邓泽如。在此时由胡汉民主持的政府的正式成立仪式以后，它发表了一个语气既是革命的又是反共的宣言，因为现在重要的是使已在进行的“清党运动”合法化。在政治会议讨论了中央监察委员会作出的把共产党党员清除出国民党的4 月2 日决议以后，新政府向总司令和其他军官及官员发出了一道相应命令，指名道姓地说鲍罗廷、陈独秀、徐谦、邓演达、吴玉章和林祖涵特别坏，又向各地共产党领导人发出警告，并附了一份准备逮捕的197 人的名单。就我们所知，名单中的人并不全是共产党员；可能中央监察委员在拟定这份名单时主要是出于怀疑。以后几个星期主要用于成立中央和各地清党委员会，以监督上海- 南京集团影响所及之处的国民党的清洗。政府本身并没什么基础，它的地点也很不安全。
4 月17日，武汉中央执行委员会把蒋介石开除出党，并撤消其一切职务。武汉国民党政府发出一道详列他12大罪状的命令，中国共产党在4 月20日发表声明，表示支持。声明说明了新的反动浪潮的阶级基础，声称无产者现在不必再受不与封建-资产阶级分子直接斗争的限制。这类口头攻击几乎不能触动实际的权力结构。