1930年初秋，叶剑英回到了上海，受到了中央军委常委周恩来的热情欢迎。后来，周恩来便安排他与留学苏联归来的刘伯承、傅钟、李卓然等人一起，翻译苏军的步兵战斗条令和政治工作条例。译成后，由中央军委送往各苏区，供红军作战和训练参照执行。1930年10月17日，中共中央政治局决定：由项英、毛泽东、周恩来、任弼时、朱德等9人组成苏区中央局，并组成了25人的苏区军委，叶剑英与彭德怀、贺龙、黄公略、邓小平、刘伯承、邓中夏、恽代英、李富春等为军委委员。转眼又进入了新的一年。1931年1月7日，中共六届四中全会在上海召开。叶剑英列席了这次会议。①会上，王明等在共产国际代表米夫的支持下，以批判三中全会的所谓对于“立三路线”的“调和主义”为宗旨，强调反对“党内目前主要危险”的“右倾”，提出一系列比李立三的冒险主义还要“左”的错误观点。会议决定“改造充实各级领导机关”。瞿秋白、周恩来在会上受到严厉指责。原来不是中央委员、缺乏实际斗争经验的王明不仅被补选为中央委员，而且成为政治局委员。通过六届四中全会，王明等人实际上掌握了中共中央的领导权。从这时起，以玉明为代表的“左”倾冒险主义路线在中共中央领导机关内开始了长达4年的统治。
对王明等人的“左”倾观点和宗派主义的思想作风，叶剑英在苏联学习的时候就深为不满。因此，他对王明等人此时进入党中央的领导层，心中产生了种种疑虑。但是，由于他刚刚回国，对党中央的内部情况还不够了解，加上他一向组织纪律观念很强，所以，心中疑虑没有表露出来。
不久，党中央决定派叶剑英到江西苏区工作。叶剑英启程之前，周恩来找他谈话，向他详细了解了在苏联学习的情况，同时告诉他，到苏区以后，先到刚成立的苏区中央局中央革命军事委员会参谋部工作。叶剑英表示完全服从党组织的决定。
那时，从上海到江西苏区一般都要经过香港，绕道广东，再入闽西。1931年1月下旬，叶剑英从上海乘船，抵达香港。他找到弟弟叶道英的住所，见到了母亲。母子久别重逢，说不出有多么高兴！母亲多么希望成年的大儿子能留在自己的身边安安稳稳的过日子啊！但当她知道儿子肩负重任、只是路过香港时，又非常担心。这位饱经风霜的老人，心里明白，广州起义失败后，国民党曾悬赏十万大洋通缉自己的儿子，至今他们是敌人黑名单上的重要对象，而香港的情况又非常复杂，国民党特务到处跟踪搜捕共产党。想到这一点，她提心吊胆，生怕儿子发生意外。叶剑英为了避开敌人耳目，只好经常变换住地。后来，他移住到跑马地老同学佴皇鸟家里。过了一段时间，中共闽粤赣边区特委书记邓发派来接叶剑英的大埔交通站站长卢伟良到达香港。卢伟良是一个早年参加革命的老交通，也是梅县人，先后护送过许多党的重要干部进入苏区。他到香港后，辗转找到叶剑英。两人虽然是第一次见面，但一见如故。
叶剑英向卢伟良询问去苏区的路线。卢伟良回答，通往苏区有水陆两条路可走。叶剑英表示要走陆路。当时准备同行的还有蔡树藩、陈友梅等。
离开香港的那天晚上，叶剑英与家人共进晚餐话别。他没有想到，这竟①叶剑英谈话记录，1983年3月7日。
是与母亲最后的诀别。①
①访问卢伟良谈话记录，1991年5月。
叶剑英辞别家人后，与卢伟良等人按照约定的时间，扮作互不相识的旅客，一块从香港乘船，到达汕头。登岸后，改乘汽车至澄海。接着，开始步行。从黄冈圩到埔东一段，都是一些崎岖难走的山路，且常有反动民团和土匪出没。他们翻山越岭，躲过敌人的盘查，加紧赶路。为了减少赶路的疲劳，叶剑英一路上讲解《红楼梦》里的故事和诗词，还时常讲些笑话。经过一段艰苦行军，他们到达埔东游击区。游击区中共县委负责人饶龙光、贺遵道知道叶剑英等安全到达，非常高兴，热情接待他们。县委负责人请叶剑英给大家讲一讲国内外的革命斗争形势。叶剑英不顾旅途疲劳，满足了他们的要求，还同大家座谈，了解当地斗争的情况。他们在埔东住了三天。然后，县委派了一个班的红军战士护送叶剑英等人到达虎岗乡，受到闽粤赣边区特委书记兼军委书记邓发的热情欢迎。
虎岗乡在福建永定县，是闽西苏维埃政府所在地。叶剑英一到苏区，就感到进入了另一个天地，一切景象都是新鲜的。村村有游击队员、自卫队员带着大刀、长矛在放哨，家家墙壁上都贴着五颜六色的革命标语。穷苦百姓们由于打土豪分田地，个个喜气洋洋。置身于这种欢乐、喜悦的气氛中，叶剑英感到十分畅快。
然而，叶剑英在虎岗乡也遇到了一件使他终生难忘的事，即苏区肃反扩大化。一天，闽西苏维埃政府召开肃反大会，邀请叶剑英在会上讲话。盛情难却，他只好按照一般情况，在会上讲了肃反的重要性和应该注意的问题。
他说：国民党反动派，在帝国主义指使之下，用最野蛮、最残酷的刑罚，不知残杀了我们多少革命的工农兄弟和革命领袖。我们对反革命分子，也决不能“姑息”、“仁慈”，对反革命的仁慈，就是对革命的残忍。我们要以革命的利益和工农群众的利益为前提。叶剑英因刚到苏区，不大了解情况，认为为了巩固根据地，有必要进行肃反；但又认为不能乱抓乱杀。所以在谈到处决反革命分子的问题时，他强调决不能用报复的手段，而应当用革命的法律。
叶剑英讲完以后，闽粤赣特委和闽西肃反委员会的主要负责入也在会上讲了话。他们在讲话中，大讲特讲所谓苏区的“社会民主党”反革命组织案件。叶剑英听了，感到迷惑不解。大会的最后一项议程是由苏区保卫部门负责人对一些“犯人”进行宣判。当保卫部门负责人念完一个人的所谓“罪行”材料后，主持会议的人就高声问：“犯人该不该枪毙？”台下的群众举手说：“枪毙！”就这样，有10几个人被判决处死。有的“犯人”听到判决后，当场高呼：“共产党万岁！”①叶剑英目睹这一情况，感觉有点不对头，就问会议主持人这是怎么回事？对方回答说，这是反革命分子耍的花招，你看反革命分子多阴险，临死的时候还欺骗群众咧！叶剑英对这种解释很怀疑，心想哪有这样的反革命？但是由于他初到苏区，不熟悉情况，不便多说。几十年后，他回想起这件事，感慨地说：“今天看来，那时的打击面过大，有些不应该杀的杀掉了，不应该抓的抓起来了，这种肃反扩大化的做法，是很令人痛心的。”②①访问罗明谈话记录，1986年11月。
②叶剑英谈话记录，1983年3月7日。
叶剑英在虎岗乡停留期间，还积极协助当地党组织开展工作。他对红军部队的思想教育和军事训练，以及扩大红军等问题，提出了许多重要意见，受到了当地党组织的重视。
叶剑英一行在闽西停留了一个多月以后，于1931年4月初到达中央苏区。
当时，中央苏区在毛泽东、朱德领导下，刚刚取得粉碎敌人第一次“围剿”的胜利，巩固和扩大了根据地。中共中央在六届四中全会前决定，在江西省宁都县的小布成立中共苏区中央局，并指定周恩来、项英、毛泽东、朱德、任弼时、余飞、曾山等人为委员，周恩来任书记。在周未到职以前，由中央派来的项英代理书记，同时撤销了以毛泽东为书记的红一方面军总前委。成立中央革命军事委员会，项英任主席，朱德、毛泽东任副主席。六届四中全会后，任弼时、王稼祥、顾作霖等作为中央代表团也来到苏区，并参加苏区中央局的领导工作。叶剑英到达苏区之后，被委派负责军委参谋部的工作。4月17日，中央革命军事委员会决定在军委参谋部成立由叶剑英、朱云卿、郭化若等13人组成的编辑委员会，时剑英为总编辑。①叶剑英领导编委会，着手进行搜集中国红军英勇斗争的历史材料，介绍苏联及其他国家的军事作家的著述，并出版发行不定期的杂志等工作。
此时，正值中央苏区第二次反“围剿”作战的前夕。蒋介石不甘心第一次“围剿”的失败，于4月又调集20万军队，以何应钦为“陆海空军总司令南昌行营主任”，开始对中央革命根据地发动第二次大规模“围剿”。在这种形势下，苏区中央局召集紧急会议，讨论第二次反“围剿”的战略方针。
叶剑英也参加了这一讨论。讨论中有些人主张“分兵退敌”，到根据地外面去打，或大撤退，大转移，退出中央苏区，摆脱敌人。这些意见得到项英的支持。而以毛泽东为代表的一些同志则表示反对，主张仍然采劝诱敌深入”的作战方针，在苏区里面迎击敌人。②由于会上项英是中央局代理书记，又打着坚决执行中共中央六届四中全会指示的旗号，因而其主张得到了许多人的赞成。叶剑英刚到苏区不了解情况，未明确表态。
由于会上几种意见的争论相持不下，无法统一，苏区中央局决定召开有各军军长、政委参加的扩大会议。会上，毛泽东分析敌我形势说：敌军数量虽多，但都不是蒋介石的嫡系部队，他们内部矛盾重重，各自为了保存实力，以邻为壑，且地形不熟，情况不明，给养困难，士气低落。而我军有“三好”，即红军好，群众好，地形好。红军熟悉地形，依靠群众可以把敌人引到我们预想的战场去消灭。毛泽东提出，现在的问题是我们到底敢不敢打？许多军长、政委踊跃发言，主张坚决回击敌人的进攻，保卫红色政权。会议经过充分讨论，终于肯定了毛泽东提出的诱敌深入的战略方针，在苏区内迎击和歼灭敌人。
会议接着讨论如何打的问题。
有人主张先拣小的打，林彪等主张先打蒋光鼐、蔡廷锴的第十九路军，先拣强的打，“打得一拳开，迎得百事来”。毛泽东笑了笑说，这一拳打不开呢！不是百事不来了吗？他接着说，我主张打中的，中等敌人一打，那些虾兵蟹将就会逃之夭夭。毛泽东提出先在赣江西边打兵虽多但战斗力弱的第①中华苏维埃革命军事委员会第九号通令，1931年4月17日。
②在瑞金、叶坪纪念馆、江西省委、瑞金、宁都县委党史办查阅的资料，1990年五路军，打垮他们之后可向东发展，在建宁、黎川、泰宁扩大根据地。叶剑英在会上边听边记，认真思考。他听到毛泽东精辟的发言，茅塞顿开，衷心拥护。
第二次反“围剿”战役在毛泽东正确思想的指导下，在朱德、毛泽东的直接指挥下，红军以3万兵力，在15天内，由西向东横扫700里，连打5个胜仗，歼灭国民党军3万余人。叶剑英参与了这次战役的指挥。他在总司令部里，认真学习毛泽东、朱德指挥红军作战的艺术，同时注意调查研究，掌握敌情、我情，逐步取得了运筹指挥的发言权。
第二次反“围剿”战役胜利之后，中央苏区军民在毛泽东指挥下，又从7月至9月取得了第三次反“围剿”战役的胜利。在这次战役中，叶剑英积极参与制定作战计划，出席军事会议，深入前线，指挥莲塘、良村、黄坡、老营盘、高兴坪等战斗，歼敌17个团、3万余人。①苏区中央局会议关于战略问题的讨论和两次反“围剿”战役的伟大胜利，使叶剑英受到了极大的教育。他自己后来常说，那几个月，使他的思想认识产生了关键性的“飞跃”。通过会议的争论和战争实践，他深深感到毛泽东是杰出的政治家、战略家。毛泽东料敌如神，知己知彼，素孚众望，深得人心。他下决心拜毛泽东为师。他特地找到毛泽东，主动地向他汇报了自己思想变化的过程和体会。①毛泽东对叶剑英这种谦虚的态度，表示赞赏和欢迎。
①叶剑英谈话记录，1982年3月12日。
1931年，日本帝国主义在东北制造了震惊中外的“九一八”事变。中国人民的抗日救亡运动掀起了新的高潮。
9月下旬，中国共产党在上海成立了以博古（秦邦宪）为首的临时中央政治局。11月7日至20日，中华苏维埃第一次全国代表大会在江西瑞金举行。大会选出毛泽东、周恩来、朱德等63人组成中央执行委员会，宣告中华苏维埃共和国成立。11月25日，成立了中华苏维埃共和国中央革命军事委员会（简称中革军委），朱德任主席，王稼祥、彭德怀任副主席，叶剑英任中革军委委员兼总参谋部部长（一般称总参谋长）。11月27日，在中央执行委员会下组织人民委员会，毛泽东被选为人民委员会主席，项英、张国焘为副主席。宣告中华苏维埃共和国临时中央政府正式组成，即日开始工作。
代表大会期间举行了阅兵式，叶剑英担任阅兵司令。
叶剑英担任总参谋长以后，一方面继续协助朱德等人指挥作战，同时，以大量精力，抓紧进行司令部机关的建设。当时，红军正处于初创后的发展阶段，各级司令部机关尚未建立起适应战争需要的参谋工作制度，机关的组织分工也很不完善，机关和部队的联系也不够畅通。随着战争规模的扩大，司令部机关在组织指挥上误时误事的现象日趋增多。为了适应战争的要求，叶剑英向中革军委提出了“建设精干的统帅机关”的建议。在朱德等的支持下，叶剑英与有关同志一起，研究确定了中国工农红军司令部机关的编制体制。按照这种编制体制，将原来分工不明确，体制不合理的一些机关部门予以精简合并，建立起作战、情报、通信、管理等部门，并对各机关的职责予以明确规定，进行了严格的分工。有一段时期，红军仿照国民党军队编制，也在司令部内设立了副官处。在精简机构时，叶剑英提议将副官处取消，其有关业务工作合并到管理部门。红军过去行军主要靠向导，不重视利用地图，有些参谋人员见到缴获来的敌人的地图后，看不懂，随便就丢了。后来在叶剑英的明令要求下，作战部门专门成立了地图科，注意搜集敌人的地图，学习利用地图，指导行军作战。此外，叶剑英还重视运用刚建立不久的无线电台，组织电台人员有计划地侦听和破译敌人的无线电信号，从而获取了大量敌人的情报。在通信建设方面，叶剑英十分重视统一全军的号音。那时，红军部队行军、作战和平时作息，大都是通过司号员吹号来统一调度。由于全军的号谱不统一，一些部队在行动中常常发生混乱现象。为此，叶剑英在1931年11月下旬，专门主持召开了红军司号员会议。11月29日，又以中革军委的名义亲自起草和发布了关于统一全军号谱号音的“通令”。“通令”要求各军团、各军以下的指挥员，督促所属司号人员在短期内熟悉和掌握新的号谱，以便使全军尽快在统一的号音下行动。
在逐步建立健全司令部各部门机构的同时，叶剑英非常注意在实践中培养和提高参谋人员的军事素质和工作能力。叶剑英几次召集师以上参谋长会议，结合中国工农红军实际，讲述苏联红军作战经验和孙子兵法等，研究反“围剿”的战略战术。当时许多参谋人员缺乏文化科学知识，业务水平较低。
他从实际出发，亲自给参谋人员讲课，讲解作战、情报、通信、机要、队列等方面的业务知识。他讲课时声音洪亮，简明扼要，善于用举例、比喻来说明深奥难懂的道理。他不仅在课堂上讲解，而且时常在现场作示范，手把手地教，百教不厌。红军总部的参谋人员都爱听他讲课，他们说：“我们的‘参座’不但是好领导，而且还是个好教员。”
当时，红军机关和部队中还存在着不少的游击习气。叶剑英向军委建议，加强对机关和部队的正规化教育，以逐步克服游击习气。他组织参谋人员研究苏联红军的参谋工作条例、步兵战斗条令和后勤工作条例。然后，参考这些条令、条例，结合中国革命战争和工农红军的特点，编写了自己的条令、条例，作为机关工作和部队战斗训练的基本依据。这些条令、条例的贯彻实施，对于克服游击习气，加强司令部和部队建设，使之逐步走向制度化、正规化，起了明显的作用。叶剑英还下令各师办一个教导队，每期100人左右，训练基层骨干。①这期间，叶剑英还参与了宁都起义的组织领导工作。起义部队是由原西北军一部改编的国民党第二十六路军。该军1931年春由山东调到江西，参加对中央苏区的“围剿”。在红军反“围剿”不断取得胜利和全国抗日反蒋浪潮的推动下，通过二十六路军内中共特别支部的积极活动，这支部队起义的条件逐渐成熟。起义前，在中共苏区中央局和中革军委的领导下，朱德、王稼祥、叶剑英等听取了有关情况汇报，并召开会议，分析了二十六路军起义的主客观条件，研究了起义的具体方案。叶剑英在约见二十六路军中的中共特别支部代表时，秘密交给他一张起义部署图，图上标明了起义后各军的行动路线与驻防部署。12月14日黄昏，赵博生（共产党员）和季振同、董振堂等率领二十六路军1.7万多人在江西宁都举行了起义。起义后，部队改编为中国工农红军第五军团，季振同任总指挥，萧劲光任政委，董振堂任副总指挥，赵博生任参谋长。叶剑英十分关心这支起义部队的建设。在整训过程中，他多次亲临视察，给部队讲话，说明什么是红军，为什么要参加红军；讲红军的官兵关系就是革命同志平等的关系；讲共产党的土地政策；讲红军同地方农民的关系，特别是红军同地方军的关系，等等。他强调说，红军不抓壮丁，不拉伕，你们之中，愿意参加红军的，我们欢迎，愿意回去的，我们不阻拦，还发给路费。他还特意委派王震等去起义部队，帮助解决起义部队的遗留问题，做好军官安置等善后工作。
1932年5月，蒋介石自任鄂豫皖三拾剿匪”总司令，调集大批军队向鄂豫皖苏区发动第四次“围剿”。与此同时，他下令组成以何应钦为首的赣粤闽边区“剿匪”总司令部，指挥江西、广东、福建、湖南的国民党军牵制中央根据地红军的主力，并为大举进攻中央根据地作准备。叶剑英积极协助周恩来、毛泽东、朱德组织指挥苏区军民，昼夜反击敌人第四次“围剿”。6月3日，同毛泽东联名签署电报致朱德、王稼样，要求东路军各军在“三天内整理完毕，准备9号出动”；“8号下午2时在官庄总司令部开军事会议，军长、军政委、军团总指挥、军团总政委、军团参谋长均到会。”叶剑英于6日上午赴上杭县官庄。7月初，红军发起南雄、水口战役，打击了向江西“进剿”的国民党军粤军部队的气焰，基本稳定了中央根据地的南翼。叶剑英亲自到前线视察，了解敌情，并作战役部署。8月上旬，苏区中央局在兴国举行会议，确定红军向北行动。叶剑英根据会议的决定，领导参谋人员制定了详细的作战计划。按照这个计划，第一步先攻打乐安，得手后，再攻取宜黄。
中革军委据此向部队下达了发起乐安、宜黄战役的军事训令。在周恩来、毛①访问耿飚谈话记录，1991年3月。
泽东、朱德的直接指挥下，红一方面军于8月17日攻克乐安， 20日攻取宜黄。此役共歼敌约3个旅，俘敌5000余人，取得了重大胜利。①周恩来于8月28日在给中央局的信中说：“本来过去军事行动向无方案的，所谓专于机动而不果决，这次我们力矫此弊，本着这个方案去做，实现和完成了第一步作战计划，获得伟大成功。”在这里，周恩来赞扬了叶剑英领导的参谋部工作。
攻下乐安、宜黄后，红一方面军按原定计划向东袭取南城，但在南城近郊受阻，与敌形成对峙局面。在这种情况下，叶剑英认真分析了战场的敌我情况，向中革军委领导人提出分一部兵力牵制南城之散，而以主力直取距南城较远的崇仁县县城的建议。他具体分析说，崇仁守敌仅一个骑兵师的兵力，我军可以长途奔袭，出其不意地先攻下崇仁。届时，敌军必定来援，我军则可以逸待劳，聚歼敌增援部队。然而，叶剑英的这个积极的建议未被采用，以至坐失战机。但后来得到周恩来的肯定。周恩来在给中央局的信中说：“这一计划（剑英提出的），原是根据敌情变动而提出的，我们因为坚守原定计划，企图先消灭朱绍良一路，故未采用，这确实是不善于机动的错误。”①在异常残酷紧张的反“围剿”作战期间，叶剑英始终精力充沛，工作极富成效，受到毛泽东、周恩来、朱德的高度赞扬。红军的高级干部们都尊敬地称他为“叶参座”。
①在中国人民解放军档案馆查阅的资料，1990年—1994年10月。以下全书引用“军档”文电，不再另注。
①周恩来给中共中央的信，1932年8月28日。原件存中央档案馆。本书所引电文未注明出处者，均引自该馆档案资料。