1932年10月上旬，中共苏区中央局全体会议在江西宁都召开。会议根据中共临时中央的有关决议和指示，开展了中央局从未有过的所谓“反倾向的斗争”，激烈地批评和指责毛泽东过去坚持的正确方针政策，提出“以粉碎敌人的大举进攻，夺取中心城市，争取江西首先胜利”的冒险主义的军事方针。会议在毛泽东是否继续留在前方指挥作战的问题上发生了尖锐的意见分歧。周恩来提出“泽东积年的经验多偏于作战，他的兴趣亦在主持战争”，建议让毛泽东继续留在前线，朱德、王稼祥也表示不同意解除毛泽东在红军中的领导职务。但这种意见没有被会议所接受。会后，中共临时中央，以要毛泽东主持中央政府工作的名义把他调回后方，随即撤销了他的红一方面军总政治委员的职务，由周恩来兼任。因叶剑英支持毛泽东，便同毛一起回到后方。
宁都会议后不久，中共临时中央又电示苏区中央局，令叶剑英和刘伯承对调，叶任中国工农红军学校（简称红校）校长兼政委，同时兼任瑞金卫戍区司令员。
这时，正值蒋介石集中兵力向中央苏区发动第四次大规模“围剿”之际。
中革军委针对蒋介石的“围剿”部署，依据红军的实际情况，决定将中央苏区划分为东北、东南和赣江三个战区。各区设立总指挥部，统一指挥该区内红军和地方武装的作战行动。担任红军学校校长兼政委的叶剑英，于11月7日又兼任了东南战区的总指挥兼政委。他挑起两副重担，一方面指挥东南战区的红军和地方武装，配合东北战区的主力这军，反击敌人的“围剿”，一方面领导红军学校的教育训练工作。
红军学校创办于1931年秋。它是以闽粤赣军区彭杨军事学校和一、三军团随营学校等为基础建立起来的，校址在瑞金城东的谢氏祠堂。1931年11月，中革军委任命萧劲光为红校校长。1932年初，刘伯承任校长兼政委。中革军委还先后选派周以栗、林野、左权、欧阳钦、杨至诚、黄火青、伍修权、吴亮平、郭化若、陈伯钧、张如心、危拱之等担任学校的各级领导和军政教员，另外，还调李伯钊、赵品三、石联星、沈乙庚、施月英、施月娥、崔音波等负责开展学校的文化教育工作。
苏区中央局对创办这所学校十分重视。在建校之初，毛泽东曾意味深长地说过：新旧军阀都懂得，有权必有军，有军必有校。国民党办了个“黄埔”，我们要办个“红埔”，我们是人民的军队，为了战胜反动派，也要学会办校、治军，一定要把红校办成培养军事人才的基地。向部队源源不断地输送经过学校培养的、军政素质好的红军指挥员。经过前二任校领导和全体教员们的艰苦创业，短短一年多的时间，红校已初具规模。①红军学校下设训练部、政治部、校务部。校部领导一身三任，既是领导，又是教员和学员。驻校学员仍保持战斗序列，编成连队，学制3至6个月不等，具体时间根据所学内容和前线需求情况而定。教学内容主要是军事政治理论、战略战术、政治工作、部队管理教育等。
叶剑英到校上任时，红校第三期学员尚未正式毕业。他着手做的第一件事就是对学校的基本情况进行详细调查。经过与训练部长林野、政治部主任①访问何长工、孙毅谈话记录，1986—1988年。
欧阳钦、校务部部长杨至诚以及一线教学人员多次座谈，他很快就了解到，经过刘伯承等历届学校领导和全体教学员的共同努力，红校虽已初具规模，办得很有成绩，但也有些领导和教员不安心学校工作，缺乏长远的办学眼光，学校潜力没有充分地发挥出来，教学质量也急待提高。叶剑英当即召开校务会，和大家研究如何在原有基础上继承刘伯承校长好的传统和作风，把红校办得更好。他在会上总结说：我们苏区的红军，从三、四年前的几千人发展到今天的几万人，这是伟大的胜利。但是由于绝大多数红军干部没有受过基本的军政训练，组织指挥能力与实战需要有很大差距，急需培养提高。蒋介石连续三次对苏区“围剿”失败，正在纠集重兵，发动更大规模的进攻。我们极需扩大红军，保卫根据地，而扩大红军就需要大批训练有素的基层干部。
所以，轮训干部，培养人才，是加强红军建设，保卫胜利果实的一项战略措施，是头等大事。我们红军学校重任在肩，一定要竭尽全力为革命培养更多的人才。
在第三期学员毕业典礼上，叶剑英勉励同学们到前方去，把所学的知识带到红军中去，创造铁的红军，以英勇斗争的精神，去消灭敌人。①为了更多更好地培养前线需要的人才，叶剑英经与有关部门多次协商后，决定扩大招生名额，由第三期的1500人，扩大到第四期的2160人。同时在原有的几个学员连队的基础上，扩编为军事团、政治营，还成立了上级干部队，分别培养基层和团以上军政干部。学制分为三种情况：由红军部队送来的学员4个月毕业，由地方送来的学员和特种兵学员都是6个月毕业。坚持什么样的教育方针，这是办好学校的一个带根本性的问题。当时，毛泽东虽然已经离开红军领导岗位，但叶剑英在领导学校工作的过程中，仍然继续贯彻古田会议精神和毛泽东倡导的从战争中培养干部的训练方针。他在召开全校干部会议讨论办校方针时，毫不含糊地指出：毛主席是正确的，古田会议精神是对的，红校的教学和训练必须从红军的实际需要出发，吸收中央红军和其他苏区几次反“围剿”战争的经验，使干部通晓本行业务，提高阶级觉悟和基本战术素质。他参照苏联军事院校和中国黄埔军校的办学经验，结合中国革命战争的实际，进一步修订了红军学校的军政训练计划，同时将红军浴血奋战的宝贵经验加以整理和总结，用于教学实践之中。在军事课教学方面，主要结合中国红军的实际，从单兵的战斗动作，一直到班、排、连的进攻、遭遇、防御，系统地进行教学，提高学员的技术和战术水平。在政治课教学方面，讲解的主要内容有：马列主义的基本理论；共产党和红军的发展历史；红军政治工作的基本原则，政治工作三大任务，红军内部的官兵关系等。其中，相当一部分内容是讲政治指导员的职责，以及开展政治工作的方式、方法等等。在教学时间分配上，根据不同的对象和课程，分别确定。军、政教学比例，军事团为6比4；政治营为4比6；上级干部队军事班为7比3，政治班为3比7；供给干部班，军政学习各占25％，还有50％时间学习供给课程。
这样的时间比例，符合教学工作的实际，有利于各类人才的培养。
抓好教员队伍的建设，是办好学校的关键。当时教员队伍比较复杂，有的是从红军战斗部队抽来的各级领导干部；有的是留苏、留日学生，还有的曾是保定、黄埔军校毕业生，军政素质各不相同，学术观点也不一致。如何统一教学思想，是迫切需要解决的课题。叶剑英确定，采用学习讨论会的形式，组织教员学习毛泽东总结和提出的作战指导原则，学习古田会议决议，边学边教，长进很快，逐步形成了一支理论水平较高的教员队伍。如蔡畅、伍修权、张如心、朱瑞、郭化若、吴亮平、孙毅、冯达飞、陈明、武挺、王智涛、武元博（后改名洪水，越南籍）以及后来的陈唐、边章伍等都是很受欢迎的教员。除此之外，叶剑英还经常邀请一些领导同志来校讲课，毛泽东、朱德、周恩来、邓颖超以及陆定一、凯丰等都曾到校作过报告。
据孙毅回忆：“那时候的红校训练部有军事教员70多人，政治教员30多人，文化教员十几人。教员的质量都不错，教得很好，作用很大。叶校长要我虚心向老教员学习、请教。有一次我还得了奖，这对我是一个很大的促进，使我更加努力学习和工作。那时定期开总结会，表扬和批评开展得很好。
叶校长说话很和气，不发脾气，和蔼待人，大家都愿意和他接触。”
叶剑英在办校中，坚持严格训练、严格要求。他认为，平时训练中的“难”是为战斗中的“胜”打基础的，如果红校训练中不坚持从严、从难的原则，就不能练精武艺，不能锻炼意志。如果在校养成一种懒洋洋的作风，日后便带不出有战斗力的部队。他常说，“懒兵无战斗力”，“娇兵必败”。他明确提出，学校的起床、早操、就餐、集合、点名、熄灯等作息制度，要严格按照连队管理士兵的规定执行。如有违反者，要进行严肃批评。他强调通过平时的养成教育，培养学员雷厉风行、令行禁止的好作风，使他们在潜移默化中学会良好的带兵方法。
在叶剑英的带领下，学校领导干部在管理教育和实际操练中，处处体现“干部平时吃苦在前享受在后，战时冲锋在前撤退在后”的要求，用自己的模范行动教育学员，形成了良好校风。
严于治校的另一个重要方面，是对教学工作的严格要求，确实提高教学质量。采用什么样的教材，教给学员什么知识？这是能否提高教学质量的一个重要问题。在这方面，叶剑英亲自过间，严格把关。红校原来使用的军事教材，主要是翻译苏联红军《步兵战斗条令》，兼收德国、日本的操典等内容。叶剑英经过反复研究，感到不能老学外国的，应当依据红军自己的经验，结合红军的特点学习古今中外的军事知识。于是他主持编写了《步兵战斗条令》、《指挥艺术》等教材，很受学员们的欢迎。
叶剑英在办校中对教员提出了严格要求，也提倡教员严格要求学员，“严师出高徒”。他要求教员认真备课，课前一定要撰写出授课提纲和讲义来。
教员讲授之后，还要组织学员讨论，每周两次。他要求教员不断改进教学方法，提倡直观形象教学。他组建了红校模型室，展出各种兵器模型、各种战术图解、政治图表以及化学、物理学、天文学方面的仪器和生物标本等，共600余件，大大增强了学员们的学习兴趣。
在叶剑英的领导下，红校在严格管理的同时，较好地实行了军事、政治、经济三大民主。教员、学员对问题有不同看法，允许进行民主讨论，实行官兵互教、互助、互学。学员对领导和党员的缺点也敢于当面提出批评意见。
在经委会管理下，连队每月结算，公布帐目。由于勤俭节约，每人每月尚能在有限的伙食费中，分到少许伙食尾子，用来购买一些日常生活用品。
红校在紧张的战争年代，在物资极端缺乏的条件下，很注意活跃文化生活，创造一个“严”与“宽”相结合的环境。学校的俱乐部和各连队的“列宁室”经常举办墙报、球赛、演讲会、娱乐晚会等各种活动。在叶剑英的关怀和支持下，红校还组织了文工团。此外，还有一批来自上海、武汉等大城市和留学归来的业余文艺骨干，像李伯钊、赵品三、危拱之、石联星、施月娥，以及作曲家崔音波（朝鲜籍）等。学校经常组织文艺晚会。叶剑英和其他领导干部带头参加晚会。叶剑英会唱许多歌曲，还会弹琴，何长工会吹笛子，两人经常在晚会上表演弹琴唱歌，每次都博得大家喝彩。教员、学员欢聚一起，演出各种自编的节目。嘹亮的革命歌声，多彩多姿的红军战士舞，使校园充满了乐观和活泼的气氛。
叶剑英在领导学校工作的过程中，在严格要求教职工的同时，十分注意从政治上、生活上关心和爱护干部。他对身边的工作人员关怀备至，在百忙中抽出时间教他们识字、学文化。有时部队的同志给他送来狗肉，他便亲自下厨，做“狗肉餐”，和大家一起享用。
叶剑英不但对身边的工作人员体贴入微，对其他的同志也是如此。凡是和他交往过的同志都留下了深刻的印象。担任中共湘赣省军区代司令员的王震率领湘赣代表团来到红军学校见习和进修，叶剑英细心照料他们的生活，与王震倾心交谈，并同他一起研究教育训练课题，嘱咐他回去要办好学校。
王震回忆说：“我在中央苏区未见到叶剑英以前，以为这位智勇双全，久享盛名的‘参座’，一定是上了年纪的首长。不料见了面，他竟是那样年轻，富有朝气，又是那样朴素，谦恭和蔼，使人深感可亲可敬。我永远也不会忘记他那种严于治军、严于治校和联系实际、联系群众的好思想、好作风。”①据郭化若、刘少卿、王智涛、吴亮平回忆，这一时期，在王明“左”倾错误的影响下，有些在军队和政府工作的同志被扣上种种罪名，受到“残酷斗争，无情打击”。有的同志被送到红校以后，“左”倾错误领导者要求红校继续对他们进行“斗争”。叶剑英则顶住压力，采取灵活的办法，将这些同志保护起来，使他们免遭更大的不幸。
①王震：《叶剑英在1976》序言，中央党校出版社1990年1月版，第2页。
叶剑英在办校中始终抱定一个宗旨，即经过红校熔炉冶炼的学员必须成为符合实战要求的指挥员。
有些毕业后回到部队的学员来信反映，在学校学的内容大都很管用，但有些课程联系实际不够，说的多，练的少，打起仗来用不上。针对这种情况，叶剑英强调少讲空洞条文，侧重实际演练，多搞野外演习，加大训练难度。
在他的组织指挥下，演习攻防科目，多选择夜暗阴雨天，涉溪水，踏深谷，钻密林，抢占山头。他鼓励学员说：“苦练才能学到真本领。现在多吃点苦，战场上就可以少流血。”
“身教重于言教”。叶剑英身为校长，深知严格训练、严格要求，不能只对别人，而要从自身做起。他处处率先垂范，为人表率。每天很早起床，和大家一起出操跑步。他虽然已过而立之年，仍坚持在单杠上做打车轮、大旋转等难度较大的动作，给大家作示范，使许多青年学员敬佩不已。凡全校性的演练，他总是亲自审定预案，亲自主持现场示范，和大家一样在风雨中操练。瑞金城方圆30公里内的山山水水，到处留下了他的足迹。
1933年2月，红校第四期学员即将毕业。毕业前夕，叶剑英组织全校学员进行了一次大规模的演习。他把全校学员编成东、西两个师，主要课目是演习行军、宿营、进攻、防御，还有政治宣传工作等。按照预定方案，东、西两师从瑞金出发，至汀州进行巷战，至河田进行城市防卫战，在王田圩进行遭遇战。整个演习从2月4日至12日，共用了9天时间，使全体学员在近似实战的条件下，受到了一次艰苦的磨练。
对于这次演习，中华苏维埃政府机关报《红色中华》于2月25日作了长篇报道，赞扬这次演习有三个优点：第一，指挥员与政治工作人员都能研究每个时期的情况，很快下决心。第二，平时与战时的政治工作，都能够积极地进行，利用一切机会和方法来提高与保障战斗员的政治情绪，普遍地建立了红军与当地民众的关系。第三，演习中的攻击精神，非常旺盛。无论行军、作战、警戒都没有疲倦的表现。这次演习，是对红校教学工作和组织领导、后勤保障等其他工作的一次检验。演习的圆满成功，反映了学校以教学为中心的各项工作，确实开展得扎扎实实而又卓有成效。这是叶剑英校长和全校人员共同努力的结果。
红校还经常在苏联和中国的革命纪念日组织活动，使学员了解革命历史，提高政治觉悟和战斗意志。1932年12月11日，叶剑英在学校主持召开“广州暴动”、“宁都暴动”纪念大会。会场群众情绪激昂，誓要粉碎国民党反动派军队对苏区红军的进攻，为保卫苏维埃政权斗争到底。1933年2月22日，全校以团为单位举行庆祝苏联红军成立15周年纪念活动， 23日在大操场举行报告大会，叶剑英在会上号召：“学习苏联红军国内战争的经验教训，准备创造一百万铁的红军。”
叶剑英在领导红军学校军事教育工作的同时，始终没有放松对苏区东南战区的反“围剿”战役的指挥。
1932年11月中旬，叶剑英赴闽西，与福建军区领导人研究迎击敌人“围剿”的战略部署。他们决定在闽西、赣南广泛建立有武装、有阵地、有群众的红色据点，争取把漳平、永安、建宁、泰宁等小块根据地连成一片。同时还决定，抽调部分工农干部骨干，经过军区训练后，派往白区，加强白区游击队和白军中士兵工作。
1933年1月，中共临时中央政治局因在上海无法立足，被迫迁入中央革命根据地。临时中央负责人博古等先后到达瑞金。其后，中共苏区中央局与中共临时中央合并，改称中共中央局。从此，中共中央局直接领导中央苏区的工作。10月初，共产国际东方部派驻中国的工作人员李德到达中央苏区，担任军事顾问。不久，在博古的支持下，李德实际上掌握了中革军委领导权。
①
这期间，国民党军队对苏区的第四次大规模“围剿”已全面展开。叶剑英根据军委部署，指挥东南战区军民，积极开展袭敌、扰敌活动，配合北线主力红军打击敌人。1933年2月，叶剑英组织闽西、赣南独立师、团，以及闽西、上杭一带地方武装，破坏道路，断敌交通，迟滞由闽入赣的国民党军队的行动。①3月，叶剑英获得国民党军第十九路军及部分福建地方军阀部队准备进犯长汀的情报后，随即将战区所属武装及红军学校第五期学员统一编成五个纵队，以迎击敌军的进犯。具体部署是：以一、二、三纵队为主力，向进占闽西清流县城一带之敌出击；四纵队打击连城、龙岩之敌；五纵队在赣南钳制广东方向可能来犯的敌军。叶剑英直接指挥对清流之敌的进攻作战。清流一带的敌军为福建军阀卢兴邦、张贞部所属的三个团。为了牵制其增援进攻主力红军的敌人，叶剑英根据军委意图，率部主动向清流之敌发起进攻，给敌以沉重打击，使敌军在较长时间内不敢轻易出动。战斗中，红军缴获了8挺德国造的勃朗宁轻机枪和一部分捷克造的自动步枪。这些武器在当时是比较新式的，叶剑英命部队将这些武器保管好，战后将带回红军学校，作为教学用的实物。
叶剑英身在东南前线，胸中始终装着整个苏区反“围剿”战役的全局。
他根据战局的发展，多次主动向军委建议将南线的部队抽调到北线。1933年2月，他将南线的两个师输送到北线。不久，又建议军委将南线的红十二军抽调到了北线。他将闽西4县的地方武装升级为正规部队，建立起红十九军，亲自兼任军长，负责东南战区的防御。他还将红校第四期毕业的400多名连级干部，全部输送到北线主力红军部队，并决定将红校看护连的80多名学员提前毕业，分配到前线部队工作。
在此期间，叶剑英还多次就整个反“围剿”战役的战局，向军委提出建议。他在致军委的《对目前战局及战略意见》中指出：目前应紧紧抓住西南反蒋的有利时机，集中全力在北线与敌军决战，以结束四次战役，开展新的①叶剑英在庐山会议中南组发言。1970年8月25日。
①访问方志纯谈话记录，1990年12月。
战局；为确保北线决战的胜利，当将南线的红军部队全部秘密集中到北线，参加战斗；在南线另外组建新的独立师，在地方游击队配合下行动，麻痹闽、粤之敌；汀州、瑞金一带的防务，直接由红军学校师生担任。叶剑英的这些建议，均得到了军委的赞同并被采纳。叶剑英率部在东南前线的积极防御和在兵员、物力等方面对主力红军的支援，对于取得粉碎国民党军对中央苏区第四次“围剿”的胜利，起到了重要的作用。
从1933年5月开始，蒋介石又调集50万兵力，策划对中央革命根据地进行第五次大规模“围剿”。
为了反击这次“围剿”，根据中共中央局提议，中华苏维埃临时中央政府下令将中央革命军事委员会由前方移至瑞金，增加博古、项英为委员，由项英代理主席。同时，在前方另组中国工农红军总司令部兼红一方面军司令部。5月8日，任命朱德为中国工农红军总司令兼第一方面军司令员，周恩来为中国工农红军总政治委员兼第一方面军政治委员，叶剑英为中国工农红军总参谋长兼第一方面军参谋长。
叶剑英受命以后，先是在沙洲坝的乌石垄村组建起一个精干的司令部机关。不久，又奉命调往前方协助朱德、周恩来指挥红一方面军作战。①9月25日，蒋介石乘红一方面军主力分头作战之际，以北路军3个师由南城、硝石向黎川发动进攻，开始对中央革命根据地进行“围剿”。中共中央局继续推行军事冒险主义，提出“御敌于国门之外”的错误方针，要求红军在根据地外战胜敌人，并争取苏维埃在全中国的胜利。
根据敌情的变化和作战任务的需要，中革军委决定成立建宁警备区和广昌警备区。1933年12月4日，任命叶剑英为建宁警备区司令员，滕代远为建宁警备区政委。叶剑英到建宁后，又兼任闽赣军区司令员。
他领导各部队积极扩大根据地，开展游击战争，确保军区的后方安全、道路通畅、供给充足。樟村战斗后，他在军区召开黎川地区各级负责人会议，要求黎川武装“迅速经秦拗、九坊一带大山，靠紧新桥、泰宁创造巩固侧面根据地”，并指示要在黎川东南广泛发展游击战争，挺进胡坊侧面，骚扰黎川东面之敌。同时派出干部领导黎川西南武装，进攻敌人。
1934年1月，红一方面军总部与中革军委合并，方面军所属部队由中革军委直接指挥，称中央红军。2月3日，中革军委进行了改组，主席仍为朱德，副主席为周恩来、王稼祥，刘伯承任总参谋长，叶剑英任副总参谋长，但实际指挥权仍操纵在博古和李德手里。1934年1月22日至2月1日，中华苏维埃第二次代表大会在瑞金沙洲坝召开。叶剑英被选举为中华苏维埃共和国第二届中央执行委员会委员。
1934年1月30日，军委要求闽赣军区“应坚决把自己所属范围内的地主武装彻底肃清，巩固与发展新的苏区”。叶剑英随即部署以主力肃清建宁、安远、梅口三区内的地主武装大刀会、保卫团等，打通建宁通往宁化的道路，保障兵站、医院的交通安全。各独立团、警备区机关、各部队、工作团、兵站医院等，到指定地区开展游击活动，肃清地主武装。他夜以继日，忙于指挥部署战斗，调动各方面力量，巩固后方安全。经过一个月的艰苦努力，建宁、安远、均口、依口、官仓、梅口、鱼潭等地相继建立了革命委员会，并进行了分田活动。作为战区司令员的叶剑英，不仅负责前线指挥，还要照顾后方供应。他发动群众筹粮，为部队准备了充足的粮食，在北线存米520多担，谷1170担，南线存粮5200多担，保障了主力红军的粮食供应。
不久，叶剑英主持成立了闽赣军区司令部。在他的指挥下，军区所属武装积极地配合主力红军行动。整个闽赣地区一度成为巩固的作战基地。
1934年4月，时剑英奉命到中华苏维埃共和国福建军区任司令员。不久，个别部队因疏忽警戒，发生被敌袭击事件。他和政委万永诚总结事件的经验教训，及时发出训令，要求部队加强行军、宿营时的警戒工作，随时准备打击敌人。
为了打破敌人的“围剿”，叶剑英组织福建军区野战司令部、政治部，领导地方武装开展游击战争，坚壁清野，断桥断路，骚扰敌人。一次，敌人拼凑了一个军的兵力向福建军区的前沿阵地龙燕镇一带和扁山要地进犯。当时，红军只有一个师守卫在龙燕镇一带，一个团守卫在扁山。在敌我力量悬殊的情况下，叶剑英为保存有生力量，命令部队暂时放弃龙燕镇和扁山，有计划地往福建的长汀方向退却。同时，他命令一部分红军部队利用山地的有利地形，声东击西牵着敌人的鼻子在山里兜圈子。在扁山通往长汀的一条河边，叶剑英直接指挥部队，伏击了敌军一个营，将敌全歼，缴获了一批枪枝弹药。
叶剑英在指挥部队转战过程中，十分重视伤病员的救护工作。对身负重伤的指战员，只要他看到时，都要亲自察看。在撤出扁山的途中，叶剑英亲自率队在最后面阻击敌人，同时，命令一个班的红军战士边退却，边收容伤员。有两个负责收容的战士以为一名重伤员已牺牲了，就把他放在路边上。
恰好叶剑英骑马赶来。他翻身下马，认真地检查了伤情，又摸了摸脉搏，发现这个伤员还活着，便立即要他们将伤员送到后方抢救。这时，追敌已近。
在这个危险关头，他仍坚持要战士将这个重伤员抬走，命令道：“你们抬着这个伤员先走，我来阻击敌人，掩护你们。”后来，他经常教育部队说：在收容伤员时一定要仔细，不能粗心大意。每个红军战士都是我们的阶级兄弟，只要还有一口气，我们都要设法抢救，多救出一个红军战士，就为革命多增加一份战斗力量，要爱护我们自己的阶级兄弟呀！
闽西地区，地形复杂，山高路险。有一次，叶剑英带领福建军区前线指挥所，一口气走了95华里的山路，转移到汀州至连城间一座名叫凤凰山的高山山顶。他住在一个破庙里，指挥部队侦察连城一带敌军活动情况，监视和袭扰敌军。当时，红军被敌人严密封锁，几乎天天都要打仗，生活非常艰苦，缺粮少盐。粮食每人每天定量6两（16两1市斤），用小草袋蒸饭，每人每餐分一小袋饭。没有盐吃，就到山中老房子里去扫硝盐（白土）。硝盐同普通盐味道不一样，苦得令人难以下咽。没有医药，战士们害了痢疾，也只能每天喝一点稀饭，硬挺着。武器弹药也很缺乏，那时子弹多是土造的，打完还得抬回弹壳。在那样极端困难的情况下，叶剑英同大家同甘共苦，一点也不特殊。他白天指挥打仗，夜里还要起来亲自查哨，照看伤病员。有时他把自己分到的一小袋饭和白薯干留下来给伤病员吃。警卫员胡绍明行军中了暑，病得很厉害，叶剑英好不容易才搞到一点土药给他吃，并把自己的马让给他骑。胡绍明回忆起那段艰苦岁月，感动地说：“叶司令待我们像亲兄弟一样，我有病照顾不了他，他反倒照顾我，那一次如果没有他细心照料，我恐怕早埋在凤凰山上了！”
不久，叶剑英率福建军区主力部队红二十四师发起连城战斗。战斗开始前，叶剑英和师长周建屏、政委黎林一起研究制订了战斗方案和兵力部署，但由于敌情发生变化，侦察不够周密，结果，部队在发起总攻后，遇到事先埋伏好的敌军猛烈阻击。叶剑英正随队前进，一看情况不妙，立即下令部队撤出战斗。据潘开文回忆，对这次失利，叶剑英战后主动承担责任，并作了检讨。但早就对叶剑英怀有成见的李德，借机把他从福建军区调到军委任四局局长。叶剑英对于这次“降职”使用并不计较。他任劳任怨，积极开展工作，他说：“那时李德打击我，把我参谋长撤了，我当时考虑到，革命事业还很长，我做什么工作都是为革命，不能斤斤计较。”①后来，毛泽东、周恩来夸奖他是能上能下的好干部。毛泽东曾多次对人说：“剑英这个人对前几把交椅是不争的！”
①叶剑英谈话记录，1982年3月12日。