1946年5月，国民党集中最精锐主力，以7个师的兵力强占四平后，接着抢占了长春、吉林等地，前锋直逼第二松花江南岸，军事形势骤然紧张。我军主力部队被迫撤至北满。东北局和东北民主联军总部撤退到哈尔滨，准备在敌进攻时放弃哈尔滨，以争取摆脱被动。在这种情况下，曾经遭到我军沉重打击的土匪残余，乘机组织进攻和叛乱，包围新生的基层民主政权或下派的工作队，残酷杀害革命干部和群众，造成一些地方基层民主政权瓦解，引起了干部和群众的恐慌。

　　松江省王兴武匪部在延寿纠集残部1 000人烧杀抢夺，五常的八家子等地仍有500余土匪活动，宾县和阿城等地有300余残匪兴风作浪，与国民党军队遥相呼应，公然制造暴乱。合江和牡丹江约8 000余土匪，切断牡丹江和佳木斯铁路线，先后攻占东宁、同江、萝北等县城。他们采取吊死、活埋，甚至开膛挖心等残忍手段，残酷杀害革命干部和群众。此时，由于敌军占领东北大片地区后，大兵团主力分散，不敢孤军北进，加上南满我军发动牵制性进攻等原因，使东北战局略有缓和。

　　1946年6月4日，为了巩固后方，东北局和东北民主联军总部作出《关于剿匪与发动群众工作的指示》，要求各省把剿匪和组织工作团下乡发动群众结合起来，同时调集各主力部队与当地军民密切配合，进行分兵剿匪。各部队和地方武装运用“打”(穷追猛打)、“挤”(武装工作队配合剿匪，把土匪挤得无法生存)、“杀”(罪大恶极的匪首坚决杀掉)、“放”(对交枪的土匪经教育后放回家)的办法，划定剿匪责任区，限期包打，展开了剿匪竞赛运动。各省剿匪部队联合运用环环相套、分进合击等战术，剿匪战果显著。

　　松江省在珠河、苇河一带，追击和围剿刘昨非匪部，全部歼灭该部500余人。在巴彦、呼兰附近的山区剿灭残匪300人，在拉林击毙匪首“金山”。在哈尔滨破获国民党新编27军军长姜鹏飞案，从而摧毁了北满策划土匪叛乱的指挥中心。

　　合江和牡丹江部队在359旅主力的配合下，分三路向盘踞在东安(密山)一带的谢文东等残匪发起攻击。接着，剿匪部队连续攻克了宝清、富锦、桦川、依兰、勃利等地，其他小股土匪残余逃匿山林或隐匿市郊。在我军强大的军事和政治攻势面前，土匪纷纷缴械投降和落网，李华堂、谢文东、张雨新等大匪首先后被捕获。

　　黑龙江部队在合江剿匪部队的配合下，集中主力追剿刘山东匪部，解放了逊河、奇克县城，直捣敌山中匪巢，迫敌大部投降，其余200名匪徒陆续被歼。嫩江部队在塔溪等地歼敌200余人。

　　从夏季到年底，各地剿匪部队共歼敌1.5万人，基本上肃清了形形色色的小股匪患。我军参加剿匪的主力部队除359旅外，其他部队全部集结南下作战。

　　1947年，各省委分别下发关于肃清残匪的指示。松江省委采取广泛清查户口，组织武装搜山，扩大政治攻势的方针，开展轰轰烈烈地挖匪根运动，共缴残匪枪械8 300支，其中机枪67挺，抓获了左建堂、王兴武等匪首。合江省委号召各地积极进攻、跟踪追击，并与黑龙江、嫩江密切配合，协同作战，战果显著。2月，在逊河县松树沟全歼刘山东残部，活捉匪首刘光才。2月7日，牡丹江军区某部侦察排长杨子荣率领小分队，深入匪穴，活捉“座山雕”张乐山等25人。3月，黑龙江省军区消灭张伯钧匪部130多人。合江军区在桦南县深山老林活捉匪首孙荣久等人。

　　在我军强大的武装围剿下，特别是一些匪特重要头子被捕获以后，敌人营垒发生分化。为了取得剿匪斗争的全面胜利，各省利用有利时机，开展了轰轰烈烈地收降工作。各地采取对匪兵宽大处理、对罪大恶极的匪首坚决镇压的有力措施，对各路残匪展开政治攻心战。采取投降不杀、携械投降者酌情奖励、利用亲属广泛散发“自新证”、帮助归降土匪安居就业等方法，加快了清剿土匪的速度，收到了良好效果，／顷利肃清了全部残匪。

　　据不完全统计：从1945年11月到1947年12月，我军作战2 987次，消灭土匪5.14万人，缴获坦克9辆，步、马、短枪1.8万支，轻、重机枪797挺，各类炮321门，大车2 251辆，马7 563匹……在剿匪斗争中，以共产党员杨子荣为代表的1 731名指战员献出了宝贵的生命。

　　剿匪斗争的胜利，使我党牢牢掌握了在东北根据地的主动权，不断地巩固和扩大了根据地，有力地推动了土地改革运动的全面开展，使共产党建立了广泛的群众基础。各地普遍建立起县大队、区小队、村自卫队等基层人民武装，使各级民主政权得到进一步巩固。这些人民武装，通过剿匪锻炼，不断发展壮大，为解放战争前线提供了一大批战斗力强、数量充足的后备兵源。