建立巩固的东北根据地，必须先有一个安定的社会环境。然而东北境内四处活动的土匪武装，是妨碍中共党政军建立巩固根据地的心腹大患。因此“安家”必先“打匪”。
关东匪患，由来已久，历史上就是一个“巨匪”泛滥并从未根除的地区。抗战胜利后，土匪与伪满军和国民党特务相结合，活动更加猖撅。早在共产党军队进入东北之前，国民党就派遣了大批特务进入东北各地，广泛网罗日伪残余势力和地主土匪武装，以“地下军”、“光复军‘、”挺进军“和”先遣军“等名目，封官进爵，以此作为其抢占东北的别动队。这些土匪武装，身穿军装，佩带军衔，公开以国民党政府的招牌招兵买马，欺骗群众，并且与国民党军的正面军事进攻相配合，到处攻城夺地、阻断交通、扰乱破坏中共后方。
据统计，国民党在东北组织的匪伪系统有16个之多，有37种名目。先后加封委任伪军土匪头子为所谓“先遣军”。“挺进军”、“总司令”、“总指挥”等头目的32名，“军长”33名，“师长”158 名，师以下官阶的加封委任者不计其数。其所收编扩充的匪徒遍及东北，约10万人。其中北满、西满最多。盘踞北满的大股土匪，都被国民党搜罗，打着“救国军”。“先遣军”、“保安司令部”的旗号，无恶不作。
土匪不仅人数众多，而且武器装备精良；大股土匪中还含骑兵，并配有坦克。装甲车和迫击炮。他们控制了北满的大部分县城，动辄残害百姓，屠杀中共党员、干部及工作人员。东北的剿匪，实质就是国共两党在东北进行武装斗争的另一个重要战场，是中国共产党建立巩固的东北根据地的重要措施。
我军队初人东北时，由于经验不足，在政策上出现过一些失误。主要是盲目收编土匪武装，以招兵买马的方式扩大了一部分军队。如1945年11月，原抗联领导干部孙景宇到佳木斯后，认为李华堂、谢文东原来曾当过抗联的军长，可以与其联合，便任命李华堂为三江自治军司令，谢文东为富（锦）。绥（滨）、同（江）三县司令，孙荣久为勃（利）、宝（清）、林（口）三县司令。还收编了一些散匪。这样表面上看部队扩大至8000多人了，但是实际上是极不可靠的。以上情况在东。西满等地区也程度不同存在。结果国民党军一进攻，这些土匪纷纷叛变，在国民党的直接或间接控制下，他们袭击民主联军后方，屠杀地方干部，破坏交通运输，造谣惑众，造成社会混乱和动荡。仅北满的合江。牡丹江、龙江、嫩江和松江地区，叛变土匪即多达3.3 万人以上，杀害中共干部154 人。土匪甚至胆敢袭击苏军小分队和零散人员。1946年2 月6 日，土匪在烨川县境内就袭击了苏军汽车，打死苏军19人。3 月，在林口县境内，苏军一个排被土匪全部杀害。
东北各地土匪的全面叛乱，是国民党军向东北开进后开始的，此时我军正在北宁线上节节抗敌，而这些土匪却在心腹叛乱，给东北中共党政军各方面均造成了极为严重的困难。
东北民主联军总部在给中共中央的报告中就曾指出：不分兵打匪，到处不能站脚。不仅城市被土匪占据，乡村也是土匪的世界。正是由于分兵太迟，部分到达各地太迟，结果还是没有能够防止1945年12月底及1 月初东北各地大批新部队及地方武装的叛变。
苏军原决定1946年1 月5 日撤退，国民党地下军及所利用的伪满军官、警察、特务潜伏在我们新部队及地方武装内的分子，他们的口号是‘先当八路，后当中央“，于12月底举行大批的叛变，到处杀害我们的干部。整连、整营。整团、整旅的叛变。当时西满，北满、东满大部分县城被他们占据，他们以为苏军1 月5 日一定撤退，这样一来，天下就是他们的了。到时苏军没有撤退，而各地主力部队亦逐渐赶到，这就给了我们时间。苏军仍控制铁路线及大城市。我军就在各地进行剿匪，逐渐收复一些县城。但土匪并未肃清，不过打击了土匪猖獗的威风，克服了这一严重的土匪威胁。
1945年秋至1946年6 月是东北剿匪斗争初期。
中共中央东北局初进东北阶段的剿匪斗争，是围绕接管政权和维护社会秩序这一重要任务进行的。当国民党军大举进攻并占领山海关至锦州一带后，一些乘人民自治军扩军之机混入内部的土匪特务即公开叛变。针对匪患猖撅情况，中共中央东北局、各分局先后作出进一步加强剿匪斗争的具体部署，积极组织对土匪的围剿，但由于主力部队大部在前方作战，抽不出更多部队，不少土匪武装仅遭到打击但尚未剿灭。为了建立巩固的东北根据地，1946年。1 月，中共中央东北局将部分主力分兵投入剿匪、发动群众和创建根据地的斗争。
山东第7 师、陕甘宁第359 旅在北满军区司令员高岗。政治委员陈云的领导下，同松江、合江、北安。牡丹江、嫩江省军区一起，在北满地区进行剿匪建政。新四军第3 师（欠第7 旅）在西满军区司令员吕正操、政治委员李富春、副政治委员黄克诚（后任司令员）的领导下，同嫩南。辽西军区一起，在西满地区剿匪建政。南满在司令员兼政治委员萧华的领导下，东满在司令员周保中、政治委员陈光的领导下，都迅速开展剿匪建政工作。
在北满，主力部队开进后，力量大增，剿匪斗争取得很大胜利。1946年1 月12日，合江军区司令员方强率部进剿李华堂。谢文东、孙荣久、张雨新匪部，5 个月先后歼匪6000余人，缴获步枪3000余支，大炮20余门，轻机枪20余挺，重机枪8 挺，汽车20辆，马100 余匹，子弹10余万发，收复依兰、勃利、密山、宝清、饶河、抚远等主要县城，初步稳定了合江局势。松江地区部队和第359 旅配合，二月22日攻克木兰，毙匪200 余人，俘300 余人；接着解放延寿，歼匪500 余人，缴获汽车7 辆。1 至2 月中旬，收复通河、样川、萝北。鸡东、饶河5 县和村镇30余处。牡丹江主力部队从2 月至6 月底，先后发起3 个战役，在合江军区部队和第359 旅的配合下，进剿东宁、密山、东安等地的土匪，共歼灭8600余人，俘匪首郑云峰、张德振、李开江，打通了牡丹江与东安、佳木斯、延吉的交通联系，使东满、北满解放区联成一片。黑龙江地区，从1945年12月下旬到1946年4 月，发起泰安、北兴。海星、庆安等战役，消灭大股土匪1.2 万余人。在哈尔滨南作战38次，哈东23次，哈西21次，哈北8 次，哈尔滨市内4 次，共击溃匪军1.2 万余人，其中毙、伤、俘和投降6000余人，收复城市12座。绥宁省经过半年剿匪，毙。伤1740余人，俘3600余人，毙、俘团长以上匪首16人，击溃1000余人，缴获步枪1100余支，轻机枪107 挺，重机枪52挺，各种炮56门，解放绥宁、东安。绥阳、东宁等县。4 月，嫩江部队在辽西部队两个支队和第19旅的配合下，收复齐齐哈尔市，歼匪3000余人。先后收复甘南、嫩江、油河、富裕、林甸、大康、龙江、景星、布西等县城，歼敌9000余人。1 至5 月，北满军区共消灭、击溃顽匪4 万余人，伤匪4 万人，缴获各种炮约200 门，机枪500余挺，步枪2 万余支。
在东满，到1946年3 月，古东地区先后进行大小战斗60多次，毙。伤、俘匪近万人，投降3000余人，缴获步枪5811支，轻重机枪269 挺，炮28门。先后肃清吉林西、北、南三方面和辽北地区的土匪，打通图佳（图门一佳木斯）线。延边警备旅与牡丹江部队配合，肃清盘踞在东宁县的马希山残匪。
在西满，1 月中旬至3 月中旬，第3 师先后解放开鲁。开通、怀德。农安等10余座县城，歼灭伪军和土匪近M 人。
在南满，1 月，辽东军区部队在安东市粉碎国民党“先遣军”一部暴乱，俘其所属师参谋长关子庆等43人。2 月3 日，在通化粉碎国民党特务勾结日伪残余势力策动的万人武装暴乱。逮捕数十名匪首和骨干，毙、伤500 余人，俘3000余人。
在热辽地区，1 至2 月共消灭土匪7200余人，不仅使热西、热北地区股匪大部消灭，同时也使热辽、热东、热中地区的土匪活动削弱。至1946年3 月，东北地区共进行了较大规模的剿匪斗争212 次，歼灭土匪7 万余人，收复被土匪盘踞的城镇11座，为创建根据地创造了有利条件。在剿匪的同时，广泛深入地开展了发动群众工作，同时建立了人民政权。这一时期土匪多只是被击溃，残匪多逃匿山林潜伏，企图伺机再起。因此，东北地区的剿匪斗争任务还将是长期的、复杂的和艰巨的。