第二十军考察团在武汉逗留了将近一个月。由于朱德已受到杨森疑忌，一九二六年一月间，他遵照中共中央军委的指示，前往江西南昌，转到国民革命军第三军去工作。随同他到武汉的二十军考察团中，有四十多人随领队马骥之回到四川，一部分人投入国民革命军第四军和第八军，而鲜泽民、莫湘、徐震球等十五人跟他一起到南昌去。
朱德到南昌工作，有着特殊的便利条件。那时，驻扎在南昌、九江、吉安、进贤一带的是国民革命军第三军朱培德部。第三军是云南部队。这年一月初召开的北代军军务善后会议后，第三军编为北伐军总预备队（后改为第五方面军）。朱德同这支滇军部队的高级军官们有着根深的历史关系。总预备队总指挥朱培德和师长王均、金汉鼎都是朱德在云南陆军讲武堂的同班同学，以后又长期在滇军共事，交谊很深。朱德还有一些旧部和老同事也在这支部队里。因此，他一到南昌，朱培德立刻委任他担任第三军军官教育团团长。不久，又委任他为第五方面军总参议。
为什么要建立军官教育团？那是因为朱培德部先后在牛行车站和南昌城下同孙传芳部主力激战，虽然取得重大胜利，但本身伤亡也很大，“现任中、下级军官几乎半数以上都是在战火纷飞中凭战功递升起来的，对于军事学术、政治思想的水平都较低落，有亟待整训提高的必要。”①在朱德的主持下，军官教育团的组建工作很快就绪，地址设在永和门内的原江西陆军讲武堂。学员分两部分：大部分是朱培德部的下级军官，编为第一、二营，共七百余人；还有一个第三营，是学兵营，主要招收省内的中学生，也有一部分从上海来的北方宣传队队员，共四百余人。教育团内的中下级军官和教官，除从第三军抽调外，还有随朱德来南昌的原二十军考察团成员以及原来在广州的第三军军事政治训练班的毕业生。他们在任职前，先经过测验，再到广场逐个考试军事实地指挥的能力，然后按照他们的实际成绩，分别委任连、排级职务。这种量才任用的做法，在当时军队中是少见的。
军官教育团的教育内容，包括军事和政治两个方面。朱德十分重视提高学员政治思想觉悟的教育。政治方面的课程，有孙中山在国民党“一大”重新解释过的三民主义，还有中国革命和世界革命问题、工人问题、农民问题和社会问题等。他们经常请国民革命军总政治部副主任郭沫若和共产党人方志敏、邵式平、曾天宇等讲课。在军事教育和训练方面，要求也十分严格。
朱德平时“对学员非常关心，吃饭同大家一起在大食堂里，晚上查夜给学员盖被子。教育团实行说服教育，严禁打骂，军官、学员一律平等。星期六野外演习，往返五六十里，朱委员长有马不骑，让给体弱或临时生病的学员乘坐，自己同大家一起走路。回到团里大操场上，还要带领全团一起跑三十分钟的步。在出操时，他亲自向学员作示范动作，耐心纠正学员作锗的动作。真是诲人不倦，处处以身作则。”②曾随朱德从万县到南昌担任军官教育团排长的莫湘回忆说：在这些日子里，“从未见他冒过火，发过脾气，一直是和蔼可亲地与人交谈，发觉到人的思想有问题时，总是旁敲侧击，循循诱导；见人行动上有错误的，总是明白指出，以理诲人。”军官教育团学员的成分和思想状况比较复杂，朱德耐心地指出：“这些人的思想是亟应改造，但也是可以改造的。我们有信心把他们改造成为革命的可靠力量，否则，怎能谈得上改造社会、改造人类、改造世界呢？改造人不是个个都一样，而是要了解不同的思想情况，做不同的工作。主要是：主动地接近他们而耐心细致地以理说服。我看是能够争取他们走革命这条光明大道的。”③“他平时只穿套粗布军服，裹副粗布绑腿，穿一双旧皮鞋，有时还穿草鞋。??上班总是夹个皮包走路，很少坐黄包车。他的住房只有简朴的床铺和一张旧方桌，几张木凳子，简单得像个旅店。他常因开会或工作忙，便买个烧饼充饥。”
④由于朱德处处以身作则，待人以诚，诲人不倦，所以在教官和学员中受到普遍的信任和尊敬。
军官教育团名义上虽然隶属于第三军，实际上是在中共中央军委和江西省委的直接领导下，成为培养革命人材的基地。在每个连队很快都秘密建立起共产党的小组，有的连党员达到学员的三分之一，参谋长陈奇涵担任党支部书记。一般工作人员也经常举行生活检讨会，开展批评和自我批评。当时江西的工农运动正在高涨，不少工人运动和农民运动的干部参加了教育团举办的短期训练班。整个教育团内呈现出浓重的革命气氛。
军官教育团是从一九二七年一月开始接收学员的。三月五日补行开学典礼，当时驻在南昌的蒋介石也前来参加。
那时候，由于北伐军在两湖、江西、浙江、安徽等省的胜利进展，担任国民革命军总司令的蒋介石的政治声望随之大大提高，实力也有很大扩充。
他觉得自己羽翼已经丰满，便公开暴露出反对共产党、分裂国民党中央、准备实行个人独裁的面目来。二月二十一日，他在南昌总司令部第十四次纪念周上发表演说，公然说：“我是中国革命的领袖，并不仅是国民党一党的领袖。共产党是中国革命势力之一部份，所以共产党员有不对的地方，有强横的行动，我有干涉和制裁的责任及其权力！”⑤在第三军军官教育团开学典礼上，蒋介石打着孙中山的旗号来抬高自己，说：“总理在世，一切由总理作主，现在总理已经过世，中正肩上的担子加重了??我们要作总理的信徒，总理在世，我们一切信赖总理，现在总理不在世了，我们必须选择一个作为我们信赖的中心??总理在世，一切服从总理，现在总理已去世，我们作为一个革命军人，就必须有一个服从的中心。”⑥朱德在朱培德、王均、郭沫若讲话后发言。据原军官教育团总务处长赵镕回忆：“朱团长当时告诫同学们，‘旧军阀要打倒，新军阀同佯也应打倒??我们必须警惕任何形式的新军阀在我们革命阵营中产生??我们要反掉任何跋扈、专横的独裁与篡国窃权的阴谋，才能完成我们的革命任务，才能彻底实现革命。’”⑦就在蒋介石参加开学典礼的第二天，驻江西的新编第一师在蒋介石指使下，伙同反共的AB团分子杀害了江西省总工会副委员长、赣州总工会委员长陈赞贤。三月十六日，蒋介石离开南昌时，强行解散原来由国民党左派掌握的国民党南昌市党部和江西省学联等民众团体。十七日，国民党九江市党部、总工会又遭到总司令部特务处处长杨虎组织的一伙流氓歹徒的围攻，在市党部打死三人，在总工会打死一人。
这股反动逆流的袭来，激起江西各界民众的极大愤慨，南昌工人罢工三天表示抗议。三月十八日，南昌市各界群众数万人在大校场召开追悼陈赞贤烈士大会，会后举行示威游行，要求江西省政府主席李烈钧主持公道，严惩杀人凶手。朱德带领军官教育团参加了游行，他对教育团的学员们说：“反动派已屠杀我们的同志了，我们要准备出击。”⑧三十日，军官教育团配合南昌的工人纠察队，收缴了蒋介石留驻在牛行车站的宪兵团的枪枝。
三月下旬，上海和南京相继克复。蒋介石从江西到上海，沿途屠杀工农群众，积极策划反共政变。政治风云越来越险恶了。四月二日，在中共江西省委发动下，南昌工农群众走上街头，举行了声势浩大的游行示威。军官教育团也派出一部分学员，身着便衣，携带短枪，加入到游行队伍中。游行的人群高喊着反对新军阀，打倒蒋介石等口号，涌向百花洲畔的国民党江西省党部。他们在方志敏等领导下，冲进蒋介石控制的省党部，捉住程天放等反共分子。并在第二天召开有三万余群众参加的大会，将程天放等人游街示众。
四月七日，朱培德就任江西省政府主席。九日，任命朱德为南昌市公安局长。朱德在全局干警大会上告诫大家，要切实负起责任，保护民众，尽快恢复南昌的秩序。
当时朱培德的政治态度是很微妙的：他同蒋介石有矛盾，武汉政府刚委任他代替李烈钧担任江西省政府主席，革命势力同反动势力在江西已形成尖锐的对立，“朱培德在这中间就采取了中立态度，他对于革命不反对，可是对反革命者也不离开。”⑨朱德利用这种矛盾，大胆地开展活动，使江西的工农运动得到比较顺利的发展。
不久，朱培德派朱德率军官教育团到赣东的抚州一带剿匪。朱德在出发前一再向全团人员阐明：“要做到真正的成为一个革命的人，就要有个清醒的头脑，有个明净的眼光，有个坚定的信念。要能明辨是非，要能澄清曲直。
要能分清敌我，还要站稳立常如果是一贯欺压人民和剥削群众的反革命分子，哪怕口头甜如蜜，其心则是毒若剑，我们必须毫不留情予以打击。若遇有权有势而有钱的人在咒骂他人时，则当多考虑之，多给予调查研究之。如系是阶级敌人诬陷穷人，则必予以惩罚而支援工农，支援穷人。”⑩军官教育团在赣东活动了一个多月，平息了真正的匪患，农民运动迅速发展起来。
部队调回南昌前，朱德又派军官教育团的副官卓廉诗担任抚州公安局局长，排长冉国平担任临川县农民自卫大队大队长。这些，不仅支持了农民运动，而且使军官教育团的学员得到实际战斗的锻炼，提高了军事指挥能力。
但就在这个时候，国内的政治局势已迅速恶化了。四月十二日，蒋介石在上海发动了震惊中外的反革命政变。接着，在南京另立国民政府，同当时还保持着国共合作关系的武汉国民政府相对立。广州等地也大规模地捕杀共产党员和革命群众。到五月间，武汉地区的政治形势也越来越严重，反共活动迅速表面化，以汪精卫为首的武汉国民党中央和国民政府一步步向右转。
五月十三日，原驻宜昌的国民革命军第十回独立师师长夏斗寅公然通电联蒋反共，并向武汉发动军事进攻。二十一日，国民革命军第三十五军团长许克祥在长沙发动马日事变，收缴工人纠察队枪枝，捣毁湖南省总工会、农会和其他革命团体，大量捕杀共产党员和革命群众。朱培德一时在表面上还没有公开反对共产党，但也在五月二十九日下令“礼送共产党出境”，六月六日又下令在江西全省停止工农运动。
正在赣东剿匪的朱德得知朱培德“礼送共产党员出境”的消息后，在六月中旬赶回南昌，向朱培德提出辞去公安局长一职，并且将军官教育团的第一、二营学员提前毕业，只留下第三营。毕业的学员大部分回到扩编的第三、九两军，其余分到赣江流域各县做工人运动和农民运动的工作。同月下旬，朱培德也以“礼送”的名义要朱德离开南昌。朱德后来回忆说：“我因为平素与朱培德他们感情还好，而博得一个‘欢送’。”(11)不久，朱德离开南昌，经九江转往武汉。
到七月初，局势更加严峻了，宁汉合流的趋势日见明朗。七月十三日，中共中央发表对政局的宣言，强烈谴责武汉国民政府背弃孙中山实行的三大革命政策，声明撤回参加国民政府的共产党员。国民党左派邓演达愤然辞职离国，宋庆龄宣布脱离武汉国民政府。十五日，汪精卫等控制下的武汉国民党中央公开宣布“分共”，第一次国共合作终于全面破裂。
中国革命已处在生死存亡的危急关头，迫使共产党人不能不毅然决然地拿起武器，武装反抗国民党的血腥屠杀政策。当时中国共产党所能掌握或影响的部队，主要有叶挺率领的国民革命军第十一军第二十四师、由原叶挺独立团扩编而成的国民革命军第四军第二十五师和贺龙率领的国民革命军暂编第二十军。这些部队由于准备东征，正集中在江西九江一带。七月中旬，中共中央召开会议，作出在南昌举行暴动的初步决定。因为朱德在江西有便利的工作条件，对情况也熟悉，就派他先赶回南昌。
七月二十日中午，朱德乘江轮抵达九江。他下船后，直接到赣北警备区司令部去见国民革命军第五方面军第九军军长兼赣北警备区司令金汉鼎。金汉鼎同朱德是多年共患难的老朋友，这时，正奉召准备上庐山去开会。他告诉朱德，朱培德打电话通知他，说汪精卫和张发奎上了庐山，有要事相商。
两人一同乘小船前往莲花洞九江车站。在船上，朱德向金汉鼎分析了目前的形势和今后革命发展的趋势，劝金汉鼎说：“在江西的这班人都是灰色的，不愿革命了。我们一同到广东去建立新的革命根据地。”(12)金汉鼎后来回忆说，当时因为他有阶级偏见，没有答应朱德的要求。
到了莲花洞，去南昌的班车早已开走，金汉鼎约朱德上山休息几日。朱德婉言谢绝了金的邀请，留在莲花洞，等候第二天的火车。二十一日，朱德回到南昌，立刻投入紧张的暴动准备工作。
他根据中央的要求，精心绘制了南昌市区的地图，并且对敌军兵力部署的分布情况作了详细的了解。同时，频繁地同第三、九两军留驻南昌的几个团的团长进行接触。
二十七日，奉中共中央之命负责发动并领导南昌起义的周恩来来到南昌，当晚住进花园角二号的朱德寓所。朱德详细地向周恩来汇报了南昌国民党军队的情况以及他所作的工作。后来，周恩来曾高度评价朱德在南昌起义中所起的作用，称他“是一个很好的参谋和向导”。
就在这一天，叶挺率第十一军第二十四师、贺龙率暂编第二十军先后进入南昌。成立了领导暴动的前敌委员会，由周恩来、李立三、恽代英、彭湃四人组成，周恩来任书记。会上，决定在三十日晚举行暴动。
一场大较量已经迫在眉睫，整个南昌城里的气氛异常紧张。汪精卫在牯岭召见金汉鼎时，特别强调江西目前的局势是外松内紧，并要金汉鼎迅速把存放在南昌的所有军用物资运到吉安，以防不测。
暴动计划的执行，由于中央代表张国焘在三十日早晨赶来南昌而发生了周折。张国焘坚持认为，根据共产国际的指示精神，应该争取张发奎参加，否则不能举行暴动。周恩来等多数人认为，张发奎深受汪精卫的影响，是不会同意这个暴动计划的。双方发生了激烈的争辩。
三十一日，前敌委员会再次召集会议，又辩论了几个小时。最后，张国焘表示服从多数人的意见。于是，会议决定八月一日凌晨二时举行暴动。朱德的任务是设法拖住留驻南昌的第三军两个团的团长，保证暴动的顺利进行。
当天下午，朱德在佳宾楼设宴款待那两个团长。酒席上，猜拳行令，觥筹交错，持续了两个多小时。随后，朱德又约他们到大士院三十二号打牌。
朱德离开佳宾楼后，先到西大街中华圣公会的第二十军指挥部，向贺龙通报情况，接着也来到大士院。
正当暴动就要发动的时候，情况突然发生了变化。贺龙部有一名云南籍副营长赵某接到命令后跑来告密，第三军那两个团长听到这个消息，立刻离座告辞。朱德不好阻拦，就赶到第二十军指挥部，将叛徒告密的事告诉了贺龙。于是，起义提前到午夜后举行。
从贺龙处出来，朱德又到了第三军第二十一团团长李世龙家中。据第三军第二十团中校团副蒋文光后来回忆说：“七月三十一日晚，他（指蒋文光）在街上看到叶挺、贺龙的部队情况有些不同，赶紧跑去找二十一团团长李世龙，要李立刻注意，或者将部队带出南昌。可是到了那里，碰见朱德正与李世龙闲谈。朱德一见他即知来意，不等有所表示，就拉着他说：‘文光，我们到街上走走。’没有两个小时，街上到处响起了枪声。”(13)朱德原来领导过的“军官教育团的学员有三个连参加了起义，公安局没有多少人参加。”
(14)
到清晨六时，城里的国民党军队全部肃清，起义取得了成功。
南昌起义向国民党反动派打响了武装反抗的第一枪，在中国共产党的历史上开辟了一个新的时期。朱德后来对这次起义作了很高的评价：“它明确地指出了中国革命的政治方向，它是共产党独立领导革命和独立领导革命武装斗争的开始。”“从此民主革命的大旗就由共产党独立肩负起来。”(15)