中央苏区的第五次反“围剿”，在博古、李德等的错误指挥下接连失利。
广昌失守之后，整个战役失败已成定局。
1934年5月间，中共中央和中革军委设想，准备将红军主力撤离中央根据地，但没有适时作出转变战略方针的决断，转移的准备工作只在极少数中央领导人中秘密地进行。
这时，叶剑英刚从福建前线调回总部任军委四局局长，兼管军委直属队工作。他到任后，首先从各方面调查了解干部情况，及时地向军委提出了干部配备方案。当时，不少同志因为抵制“左”倾错误，受到残酷斗争，无情打击。有的被以莫须有的罪名撤职，开除党籍。在转移前，“左”倾错误领导者把这部分被打击的干部看作是“包袱”、“累赘”，想甩掉一批，杀掉一批。叶剑英在自己职权范围内尽最大努力，抵制了这种错误的做法。他亲自找这些同志谈话，深入群众中开展调查研究，深感其中的多数同志是对“左”倾错误领导不满，拥护毛泽东的好干部，有的人虽然犯过错误，但性质并不严重；有的则是编余干部。他认为，既不能把党的这些宝贵财富视为“包袱”，随意抛弃，更不能随意杀掉。因此，他力主这部分干部应该得到保护。于是冒着再遭打击的危险，仗义执言，尽量设法让他们随军突围转移。
当时国家保卫局内部决定，对犯“错误”干部开列了一个留走名单。名单上有五六十个干部，分成A、B、C三类，一类是要杀的，一类是要留在苏区的，另一类是可以参加突围转移的。当保卫局长邓发带着这份名单，征求叶剑英意见时，叶据理力争，要求尽量少留人，坚决反对杀人。凡是他了解情况的，逐个陈述自己的看法，极力加以保护。名单上有边章伍的名字，被划入要枪毙的一类。叶剑英说，这个同志我非常熟悉，他毕业于保定军官学校，很有学问，军事理论和军事素质比较高，是军队有用之才；他参加宁都起义也是有功劳的，工作很有成绩，他是个好人，怎能把人家列为反革命呢？邓发被说服了，便把边章伍的名字勾掉。此后，叶剑英与边章伍一起共事多年，从未向边提起此事。当边章武知道了这件事时，激动地向妻子陈宛文说，我这个脑袋是叶参座给保下来的，什么时候也不要忘了他救命之恩！此事一直传为佳话。
叶剑英就是这样一位悄悄做好事，却从不宣扬自己的人。他在组织人事问题上，一向严守纪律，不随意议论不该议论的事情，不封官许愿，不送人情，充分体现出一个共产党人的坚定的党性立常那张干部“名单”是一个信号。叶剑英感到问题非常严重，自己有责任保护好一些蒙受冤屈的同志。
在一次讨论如何组织军委纵队的会议上，他向朱德、周恩来等军委领导人提出了妥善安置和保护干部的建议和方案，在他的提议下，经过军委批准，组成军委干部团（属随营学校），保留战斗骨干，收编红军大学和其他几所已被撤销的学校中的部分教员、学员和受“左”倾领导打击排斥的所谓“犯错误”的干部和编余干部。这些干部能分配到各个军团和安排在军委机关的尽量安排，随时可以调入。这样，保护了党和红军的一批重要干部，其中就包括萧劲光、郭化若等。这批干部在遵义会议之后，都先后恢复名誉并分配了工作，他们不仅在战争年代发挥了重要作用，而且在新中国成立以后，大都成为党和军队的高级领导干部。
但是，“左”倾错误领导者对于反对他们主张的干部继续采取能整就整、能甩就甩的办法，进行打击迫害。尽管叶剑英等主持正义的领导者竭尽全力进行保护，但由于自身处境也很困难，对一些被硬行留下、在当时很有影响的重要干部也爱莫能助，有的甚至是亲密战友，也无能为力。叶剑英后来回忆说：“李德那个人可厉害，他讲不赢道理，就用组织手段整你。长征时很多干部没带出来，像瞿秋白、古柏、毛泽覃、刘伯坚这些同志战死的战死，有的被杀掉。这都是李德他们搞的。”①叶剑英与刘伯坚是十分熟悉的老战友。刘于1926年同邓小平、刘志丹等先后被派到冯玉祥的部队做政治工作。他的公开身份是国民军联军政治部副部长，深得冯玉祥信赖。1931年在中央苏区参与策划组织宁都起义后，任红五军团政治部主任，功勋卓著。长征突围前，“左”倾错误领导者翻他的老帐，无非是因为他在莫斯科东方大学学习期间，反对过王明宗派集团，因此，刘伯坚被留在苏区，担任赣南军区政治部主任。可是他并没有因为受排斥而消沉，仍然忘我地工作。为了护送主力红军渡过于部河，他亲临架桥工地，开展后勤支援工作，从早到晚，站立河畔桥头，为长征战友送行。他见到叶剑英，特意把酒饯别，倾诉衷肠。两位老战友恋恋不舍，心情十分沉痛。刘伯坚望着滚滚东流水，对叶剑英说：“大队人马向西转移了，我留在赣南没有什么作用，你还是想法反映反映，让我跟着走吧！”其实叶剑英又何尝未反映过呢？他曾几次把刘伯坚的要求向军委作了汇报，提议让他随队长征，但“左”倾领导者却说刘伯坚“婆婆妈妈的”，没有什么用，就是不同意他参加长征。叶剑英无可奈何，只好互道珍重，洒泪而别。后来，刘伯坚在赣南的一次作战中负伤被俘，坚贞不屈，壮烈牺牲。牺牲前，曾在狱中留下《带镣行》的著名诗篇。1962年，叶剑英在《建军纪念日怀战烈》诗中赞曰：“红军抗日事长征，夜渡鄂都溅溅鸣。梁上伯坚来击筑，荆卿豪气渐离情。”①这是多么激越悲壮、寓意深邃的诗句啊！当年刘伯坚在于都河畔、黎板桥头，送行惜别的情景，跃然纸上，使人想起战国荆轲刺秦王，与易水畔击筑送行的好友高渐离的诗句：“风萧萧兮易水寒，壮士一去兮不复还。”刘伯坚的壮烈一生，令人景仰不已。叶剑英每每回忆起这段历史，心情部分外难过，对“左”倾错误领导者深恶痛绝。他惋惜地说，他们在长征前有意甩掉的许多好同志，后来不少人惨遭敌人杀害，这是令人十分痛心的！
①叶剑英谈话记录，1982年3月12日。
①《叶剑英诗词选集》，人民文学出版社，1991年9月版，第139页。
“左”倾错误领导者在军事上的冒险主义、保守主义终于发展到了逃跑主义。1934年10月7日，中央革命军事委员会发布命令：“中央根据地各军区地方兵团，接替各线主力红军的防御任务。除以第五军团继续抗击向兴国进攻之敌外，将第一、第三、第八、第九军团从阵地撤下来，集中在兴国、于都、瑞金地区。”随后，第五军团亦从阵地撤离。紧接着，中央颁布《野战军10月10日至20日行动日程表》，具体规定了中央红军主力转移的出发日期和到达的地域。中革军委发出第五号命令，决定将军委、红军总司令部、总政治部及其直属部队组成第一野战纵队，与主力红军一起行动，叶剑英任司令员兼政治委员。纵队下辖4个梯队，又称军委第一纵队，博古、张闻天、周恩来、毛泽东、朱德、王稼祥、李德等随其行动。此外，中共中央机关、中华苏维埃共和国中央政府机关等单位组成第二纵队，亦称中央纵队，李维汉任司令员兼政治委员。
10月10日，中央红军开始长征。中共中央、中革军委率领红一、红三、红五、红八、红九军团，军委第一、第二纵队，共8.6万余人，从瑞金等地出发西进，进行大规模的战略转移。为保守军事机密，中革军委规定军委及各部队对外使用的代号是：军委为“红星”，军委第一纵队为“红安”，第二纵队为“红章”。在战略转移前夕，总参谋长刘伯承因不满李德的错误指挥而被降职到第五军团当参谋长。从这时起至黎平会议，叶剑英以军委第一纵队司令员兼政治委员的身份主持总司令部的日常工作。
10月21日，叶剑英率领军委第一纵队随主力红军从于都西南王母渡、新田之间，突破敌人第一道封锁线，于25日全部渡过信丰河。11月8日，在汝城以南之天马山至城口间，通过第二道封锁线。15日，在良田与宜章间，通过第三道封锁线。12月1日，主力红军渡过湘江，通过敌人第四道封锁线。
在突破这道封锁线时，面对国民党军几十万人前堵后追，博古等领导人一筹莫展，只是命令部队硬攻硬打。红军指战员经过浴血奋战，虽然杀开了一条血路，但却付出了惨重的代价，中央红军折损过半，由出发时的8万多人很快地减到3万多人。红军战士的鲜血染红了湘江水，谱写了一曲悲壮的战歌。
突围行军中，叶剑英协助周恩来、朱德处理繁忙的军务，及时传达并贯彻执行军委的各种命令、指示，随时处理部队行军作战遇到的各种问题。他经常找负责人碰头，研究如何应付遭遇战和防止敌人空袭问题，组织部队克服各种艰难险阻，通过一道道封锁线。许多小事，他也非常细心。路过湘西少数民族地区时，住在老百姓的木板房里。这种木板房容易起火，他特意制定防火措施，防止发生火灾。一路上，他最关心的是掌握敌军的部署和动态。
那时中共中央和地方党组织已经失去了联系，有关敌人的情报来源主要靠两条：一是地面侦察，二是通过无线电台侦听，破译敌台情报。叶剑英精心组织电台的同志分几个梯队交替行军，昼夜坚持工作，保证通信联络畅通无阻，及时地为军委提供准确的敌我情况动态。电台的人员少，工作很辛苦，叶剑英在艰苦的行军中，常去看他们，称他们是无名英雄，时时处处为他们着想，帮助解决各种困难。
红军渡过湘江，行进到湖南和广西交界的西延山区。这里，山势陡峭，道路崎岖。在一座高山上，叶剑英停下脚步，与警卫员、马夫一起稍事休息。
叶剑英脚踏雷公岩，微蹙双眉，举目四望。耳旁正响着密集的枪声，那是后卫部队在阻击敌人。脚下，是几乎90度的陡峭险峻的悬崖，一条一尺来宽的石梯路，从山脚蜿蜒而上，旁边就是万丈深谷。走在这样的路上，令人头晕目眩，胆颤心惊。伤病员们都下了担架，由同志们背着或搀着走。有几匹马踩空了脚，摔下了万丈深渊。此情此景，使叶剑英的心情十分沉重。
红军继续艰难前进。下了山，涉过一条小河，前面是一片开阔地。叶剑英带领队伍迅速通过开阔地，向对面的小山上走去。这时，周恩来走过来，告诉叶剑英命令部队切勿休息，立即前进，防止敌人空袭。叶剑英马上具体布置各单位注意防空。就在这时，敌机飞来了。叶剑英命令部队在路边隐蔽。
敌机越飞越低。突然向着叶剑英及部队隐蔽的山腰处俯冲投弹。叶剑英见势不好，赶快跑开。刚跑了几步，一颗炸弹正好落在附近，“轰”地一声爆炸了。叶剑英摔倒在地。
“参谋长，你？！受伤没有？”警卫员范希贤见状，马上奔上来扶他。
叶剑英自己爬了起来，踉踉跄跄地继续往前走去。这时，他才感到右大腿靠臀部的地方，一阵阵疼痛。用手一摸，鲜血已经渗透了裤子，不断地往下流。
范希贤将他扶到一处平坦的地方，让他躺下，然后叫马夫立即去报告卫生部。
总卫生部部长贺诚闻讯赶来，把叶剑英扶上担架。当抬到总卫生部临时所在地时，伤口还在流血。同志们都关切地围上来询问他的伤势，他虽然感到痛得厉害，但却坚强地忍住，平静地回答说：“没关系，不要紧。”
医生检查，发现一块弹片打进了靠近臀部的地方，有好几公分深。由于环境和技术条件的限制，弹片无法取出，只好留在体内了。医生对伤口作了简单的包扎，叶剑英便坐着担架，继续上路了。警卫员把棉大衣给他盖在身上，才发现大衣被炸穿了许多窟窿。原来，炸弹爆炸时，叶剑英正用右手拎着大衣。如果不是这件棉大衣护着，说不定还会有生命危险呢！叶剑英每谈起这次负伤留在身上的弹片，就风趣地说：“留着它作纪念，可以使自己不忘过去。”①叶剑英对待自己负伤不大在意，但他对待别人却非常关心，使许多同志感受到温暖。他带伤工作，劳累过度，又加上营养不良身体消瘦，吐了几次血，但仍坚持行军，还经常把自己的乘马让给伤病员骑。参谋孔石泉在通过少数民族地区时，脚负了伤，走路困难。叶剑英把自己的马让给他骑。几十年后，孔石泉回忆起这件事，仍很动情地说：“叶司令员很关心我，如果没有他的那匹马，我也许走不出少数民族地区了！”
寒冬腊月，冷风逼人。中央红军在国民党军的重重包围和阻击下，冒着严寒，沿着崎岖难行的山路艰难前进。1934年12月11日，红军占领了湖南省通道县后，中央部分领导人召开紧急会议，讨论了红军的行动方向。会上，毛泽东鉴于红一方面军渡湘江所受的严重损失和蒋介石在湘西靖县、绥宁、武冈一带企图围歼我主力红军的部署，建议放弃北上湘西与红二、六军团会合的计划，转向敌军力量薄弱的贵州前进。经过激烈的争论，周恩来、王稼样、张闻天、朱德等多数人赞成毛泽东的主张，但博古、李德等坚持原议。
红军继续前进，于12月15日占领了贵州黎平县城。
12月18日，中共中央在黎平召开政治局会议，再次讨论红军的行动方向问题。会议经过争论，否定了博古、李德坚持按原定计划，往湘西与红二、红六军团会合的主张。作出了《关于在川黔边建立新根据地的决定》。决定指出：“过去在湘西创立新的苏维埃根据地的决定，在目前已经是不可能的，并且是不适宜的”；新的根据地应该是川黔边地区，在最初应以遵义为中心之地区，在不利的条件下，应该转移至遵义西北地区。会议决定，红军继续向贵州西北前进。黎平会议进一步肯定了毛泽东的正确意见，使中央红军避免了全军覆没的危险。中共中央决定部队进行整编，军委第一、第二野战纵队合编为军委纵队，确定由总参谋长刘伯承兼司令员，陈云任政治委员，叶剑英任副司令员兼一局局长，负责指挥行军作战。
为了贯彻中央新的战略方针，周恩来、朱德、刘伯承、叶剑英研究制定了抢渡乌江、占领遵义的行动方案。1935年1月7日凌晨，先头部队占领遵义城。9日，中共中央、中革军委在当地人民群众的欢呼声中进入遵义城。1月15日至17日，党中央在遵义召开政治局扩大会议。会议集中批判了王明“左”倾冒险主义在军事上的错误，通过了《中央关于反对敌人五次“围剿”的总结的决议》，重新肯定了以毛泽东为代表的正确军事路线。会议改组了党的中央领导，增选毛泽东为政治局常委。遵义会议结束了王明“左”倾冒险主义在党中央的统治，实际上确立了毛泽东在红军和党中央的领导地位，在最危急关头，挽救了红军，挽救了党，挽救了革命，成为中国革命的一次伟大历史转折。
遵义会议期间，中央纵队未单独设立司令部，由总司令部兼理。据黄鹄显、曾三、吕黎平等回忆，叶剑英在总司令部协助周恩来、朱德指挥作战，日夜守候在作战值班室，处理紧急军务。他拖着带伤的身体，不分昼夜地工作，有时一天只能休息三、四个小时。他负责军委纵队的工作，还要领导军委一局的工作，每天不但处理大量上报下达的文电，有时还亲自起草电报。
工作严肃认真，一丝不苟。他起草电报喜欢用毛笔写，一笔一划，工工整整。写完后又一字一句点着看，认为准确无误了，然后写上“剑英”二字。
他常对军委总部的参谋人员说，一字之差，可能会关系到部队同志的生死存亡，写好后一定要多看两遍。参谋起草的电报，他一字一句修改，有时只留下头尾，内容几乎全部改写，改完后，送给参谋重抄，然后他还要认真看两遍，才签字发出。有的参谋人员不懂电报中的韵目代日，地支代日代时，他不厌其烦，把着手教，帮助参谋人员提高工作能力。叶剑英十分关心遵义会议的进展情况，当他得知会议的结果时，十分高兴。他衷心拥护会议的正确决定，拥护毛泽东的领导，连夜向部队传达会议精神。遵义会议后，中央红军决定北渡长江，与红四方面军会合。1935年1月19日，中央红军向川南上城赤水方向开进。一天，中央机关行军到一条山谷时，突然从北边半山坡上冲来敌军一个连的兵力，向中央机关人员猛烈开火。毛泽东、周恩来、朱德等都在敌射击圈内，情况非常危急。中央机关人员只好躲进一条流水沟里。
过了一会儿，敌军吹起冲锋号，冲下山来，高喊：“活捉朱毛！”在这千钧一发之际，叶剑英率队从后面跟了上来。他当即下令：“通信排跟我来！”
亲自带领一个排迅速冲上南面的高山，集中火力向北边压下来的敌人还击。
敌军遭到阻击，摸不清底细，不敢再往下冲。双方对峙了一阵，敌军退去。
中央机关转危为安。大家说：“好险呀！要不是叶参谋长及时赶到，我们就要吃枪子了！”①①访问范希贤、李质忠、颜太龙谈话记录，1987—1994年。
1935年2月28日，在第二次占领遵义的老城老鸦山战斗中，三军团参谋长邓萍不幸牺牲。三军团向中央发电报，指名要求叶剑英去接任。中央考虑战斗正在激烈进行，前方需要派得力的人，便同意了三军团的要求。叶剑英在危难之际奉命前往三军团任参谋长，协助彭德怀、杨尚昆指挥三军团作战。
3月上旬，中革军委在打鼓新场附近召开重要军事会议，研究成立军事指挥小组问题。出席会议的有军委委员以及一、三军团负责人、纵队司令员、政委等。三军团参谋长叶剑英和政治部主任刘少奇也出席了这次会议。会议经过讨论，确定由毛泽东、周恩来、王稼祥组成三人小组，负责指挥全军的军事行动。就在会议讨论下一步红军进军方向时，敌机突然袭来。在危急时刻，叶剑英第一个想到的是毛泽东，他眼疾手快，拉着毛的手，急忙跑出屋子，隐蔽到山脚边的茅草地里。敌机空袭过后，继续开会。会后，叶剑英在三人小组和彭德怀、杨尚昆的领导下，制定三军团的作战计划，指挥部队趁夜经潭厂、两路口，袭取仁怀，三渡赤水。然后攻占铁厂、大村，在二郎滩四渡赤水，南渡乌江，直趋贵阳。①部队人不歇步，马不停蹄，翻山越岭，来到金沙江畔。金沙江的支流很多，过每一道河，叶剑英都要亲自勘察地形，指挥架设浮桥，或组织人员向敌军夺船渡河。行军作战中遇到问题，他总是找几个科长来一起商量解决办法后向彭德怀汇报，最后再作决定。有一天，部队行军80里，到宿营地时已经很晚了，走在前边的部队突然来电说，行军前方有一座桥被水冲断了，需要连夜架修。这时大家经过一天的行军，人困马乏，已经很疲劳，叶剑英带伤走路，更是周身酸痛，但他仍然连夜召集司令部李天佑、孙毅等几个科长碰头研究办法，并要亲自带工兵连夜去赶修。几位科长看到他身体虚弱，坚决不让他去。叶剑英接受了大家的意见，将架桥任务交给孙毅。临走前，他对可能遇到的问题，又作了具体交代，才放心地让孙毅带工兵连20多个战士前去。他们走了几十里路，在河边整整奋战了一夜才把桥架通。
彭德怀、杨尚昆和叶剑英率领三军团渡过金沙江、大渡河后，乘胜继续北进。经林坪，从二郎山旁越过人迹罕至、野兽成群的深山老林，指挥部队击溃四川军阀杨森所部6个旅的堵截。于6月初，占领了天全、芦山、宝兴，为后续部队扫清了道路，迅速赶到夹金山脚下。
夹金山是红军长征翻越的第一座海拔4000米以上的大雪山。它位于四川宝兴县西北，懋功东南，高耸入云，气候寒冷，空气稀薄，山顶积雪终年不化。红军指战员从云南一路转战来到四川，每人只有一套单衣，要过雪山了，想补充点衣服也无处可寻。最初他们想带些烧酒御寒，但山脚下人烟稀少，哪里去找这许多烧酒？叶剑英找大家商量，布置部队要多准备生姜、大蒜、大葱、辣椒，以备上山冷时咀嚼压寒，并对爬雪山提出了一些具体要求。
上午八、九点钟，部队开始上山。叶剑英拄着拐棍，口里含着姜片，与警卫员范希贤一起向山上攀登。雪山上的气候，变幻莫测，刚才还是阳光灿烂，过不多久就下起了鹅毛大雪。暴风夹着雪，打到脸上、手上，像刀割似的疼痛。叶剑英和大家一样穿着单薄的军装，冻得浑身直打哆嗦。人们用手①在遵义会议纪念馆查阅的资料，1985年10月3日。
捂着脸，冒着暴风雪，踉踉跄跄，艰难地行进着。如果不小心，掉进雪窝里或雪崖下，就永远也爬不起来了。好不容易走到山顶，叶剑英远远看见有三个人坐在那里，走近一看，三人都已冻僵牺牲了。他默默地摘下军帽，含着热泪向这些战友告别，陷入了沉思：自从离开中央苏区，一路上牺牲了那么多好同志。他情不自禁地低吟：“越过千山与万水，红军西游何时还？??爬过雪山，部队吃粮非常困难，只好靠野菜充饥。有的连野菜也吃不上，只好吃草根、树皮。为了搞到粮食，叶剑英率三军团教导营与藏民联系买粮。
可是，沿途藏民多受国民党的欺骗宣传，都藏匿起来，不肯把粮食卖给红军。
在这种情况下，叶剑英教育部队要爱护少数民族兄弟，不能违反群众纪律。
他带头执行纪律，遵守少数民族的风俗习惯，并且规定了一些具体的政策和措施。叶剑英要求大家宁肯搞不到粮食，饿着肚子，也不准随意侵扰藏族兄弟。有的藏民因受反动宣传的欺骗，拿起大刀长矛对付红军。叶剑英教育部队，绝对不准还击。由于他带头执行中国共产党的少数民族政策，许多藏民很受感动，积极动员躲在山上的群众陆续回家，纷纷把余粮卖给部队，有的甚至乐于为红军带路。
经过艰苦、顽强的行军，叶剑英同部队一起到达四川西部懋功县（今小金）的达维镇。在这里，中央红军一部与红四方面军先头部队会师了。叶剑英估计，随着两军会师后力量的增强，全军在战略上将会很快打开一个新的局面。他衷心地期望着这种新的局面能够早日出现。