中共六届三中全会后，李立三实际上已离开中央领导岗位。这次全会对纠正李立三的“左”倾错误起到了积极的作用，但在当时的条件下，全会并没有完全摆脱“左”的观点，没有能在思想上、理论上彻底清理以李立三为代表的“左”倾错误。会议认为李立三等只是犯了“个别的策略上的错误”，表现了某些调和妥协的精神。而这时共产国际对李立三的批评却升了温。在三中全会结束后不久，共产国际执委会于1930年10月通过《给中共中央关于立三路线问题的信》，指出李立三的错误是同共产国际路线根本对立的路线错误，是反国际的政治路线；同时，又指责三中全会犯了“调和主义”的错误。
1931年1月7日，根据共产国际的指示，中共六届四中全会在上海召开。王明等人在共产国际及其代表米夫的支持下，以“执行国际路线”、“反对立三路线”、“反对调和主义”为旗号，指责以李立三为代表的错误是在“左”的词句掩盖下的“右倾机会主义”，提出一系列比李立三冒险主义还要“左”的错误观点。在四中全会上，王明等人在米夫的扶植下，取得了党中央的领导地位。从这时起，王明等“左”倾教条主义者无论对实行正确路线的毛泽东，还是对犯错误的李立三等，都进行残酷斗争、无情打击。他们在党内统治达4年之久，给党和革命事业造成了重大的损失。
“立三路线”在党内的统治时间，一共不到四个月，但却被王明等“左”倾教条主义者，一再利用和无限夸大。自党的六届四中全会起，李立三退出了中央政治局。在这次全会之前，他于1930年11月就已经遵照共产国际的命令，离开上海前往莫斯科，向共产国际汇报并继续检查错误。随后，他羁旅莫斯科达15年之久，遭遇坎坷，饱经忧患，直到1946年1月才返回国内。
李立三这次能够回到祖国，是毛泽东起了作用。在延安整风运动期间，毛泽东在总结党内斗争的经验教训时，多次提到李立三的错误。他说：自整风以来，我们的方针就是“治病救人”。在思想上要清算彻底，组织结论要慎重和适当。立三路线的错误，不是个人问题，而是一种社会现象，我们要强调产生错误的社会原因，不要强调个人责任。思想要弄清，结论要宽大，对党才有利。他还这样说过：“我党历史上，曾经有过反对陈独秀错误路线和李立三错误路线的大斗争，这些斗争是完全应该的。但其方法有缺点：一方面，没有使干部在思想上彻底了解当时错误的原因、环境和改正此种错误的详细办法，以致后来又可能重犯同类性质的错误；另一方面，太着重了个人的责任，未能团结更多的人共同工作。这两个缺点，我们应引为鉴戒。”①
①毛泽东《学习和时局》。
在党的七大召开之前，在酝酿中央委员会名单的过程中，毛泽东认为像李立三这样犯过错误的同志是可以列入候选人名单的。
这时的李立三仍在莫斯科没有回国。自1931年起至1937年，王明在莫斯科担任中共驻共产国际代表期间，李立三饱尝“残酷斗争，无情打击”的滋味，他多次作过认真诚恳的检查，但仍长期地反复地受到批评。他曾经这样说过：好像是过了七年小媳妇的生活，终日提心吊胆，但还是不免受到斥责。王明还不准李立三回国，以致在苏联肃反扩大化时期李立三于1938年2月被诬为“日本特务”，由苏联内务部逮捕入狱，坐了一年多的牢。出狱后，王明不怀好意，竟向苏共中央提出，要把李立三流放到西伯利亚，置他于死地而后快。幸亏周恩来那时正巧在苏联疗伤，为李立三说了话，才留在莫斯科。李立三出狱后曾经多次写信给中共中央，汇报自己在苏联的情况，要求回国参加抗日战争，但是党中央一次也没有收到他的信。
为了了解李立三在莫斯科的情况，毛泽东向苏共中央发了电报，说我们正在准备召开中共七大，中央和部分七大代表提议把李立三列入七大中央委员候选人，希望苏联方面告知李立三被关的原因和主要情节。不久，从莫斯科的回电中得知，李立三在苏联这段时间作了些具体工作，但在工作中有过缺点，等等。于是，中央决定李立三为党的七大的中央委员候选人。
在七大选举新的中央委员会时，毛泽东一再地做大家的工作，他主张对犯错误的同志采取一分为二的态度，团结他们一道工作。1945年5月24日，毛泽东代表大会主席团作关于选举方针的报告时说：应不应该选举犯过路线错误的同志？从党的历史经验来看，对犯过路线错误的同志不应一掌推开。只要他承认错误，并且决心改正错误，大会还可以选他。毛泽东提名选李立三为中央委员，说六届四中全会把李立三开除出中央政治局，但是并没有解决路线问题。又说：李立三没有到党外干坏事，还是同志。我们的原则是尽可能地团结更多的人在我们的纲领下，争取他们和我们的团结、合作。
由于毛泽东一再地做工作，李立三顺利地选上中央委员，他当时还在莫斯科，但选举他的票数竟居44名中央委员的第15位。
直到1945年底，李立三才得到他当选为中共中央委员的消息。在这年的除夕，苏共中央联络部部长热情地接见了李立三，说接到中共中央通知，在中国党的七大上，李立三已被选为中央委员，问李立三愿不愿回国？这对李立三来说是出乎意外的，给了他极大的振奋。
李立三后来对他的朋友讲起这段令人难忘的经历：“当时事出意外，我以为我听错了，这简直是不可想象的事！这位部长又把话重复了一遍，我惊呆了，一时万感交集。我像远离母亲的孤儿，流浪国外10多年，突然听到母亲的召唤，那眼泪就像断线的珍珠一样，怎样也控制不住，激动得一句话也说不出来。我历史上犯过那么大的错误，党却没有忘记我，没有抛弃我！当时我感激党、怀念党的心情，到现在也难于用言语来表达。在这位部长一再催问下，我只连声地说：‘我要回国！’这位部长又说，给你一本机密文件带去看看。原来是毛主席的《论持久战》。当时这本书在苏联还是保密的，他能送给我看，这是表示信任。我拿到这本书，如获至宝。汽车送我回到家，家人都喜出望外。这一夜，我顾不得吃年夜饭，一口气把《论持久战》读完了。书中的政治、军事上的真知灼见吸引着我，引起我对毛主席无限钦佩和崇敬的感情。”①