抗日战争胜利后,为抢夺胜利果实,蒋介石妄图占领全东北。一方面，他依靠美国的飞机、大炮出兵东北；另一方面，派遣大批军事人员和特务潜入东北各地，收编日伪残余、土匪、流氓等势力，组建反动武装和进行建军活动。

　　哈尔滨解放后，这些建军土匪在哈尔滨及周围地区烧杀抢掠，骚扰破坏，袭击交通线，刺杀我党政干部，搜集情报，并借我军扩军之际，打入我军内部搞策反，曾一度给我党政军机关造成很大威胁。

　　东北民主联军进驻哈尔滨后，成立了市公安总局，军警配合开展了全市性的大搜捕，捕获了一批日伪战犯、汉奸特务、叛徒及国民党建军头目。国民党先遣军第五战区总指挥曹兴武便是在这次大搜捕中落网的。他的下属组织也彻底瓦解。5月中旬以后，前线我军自四平、长春作战略撤退，哈市形势骤然紧张，建军土匪和国民党特务认为卷土重来的时机已到，遂又开始蠢蠢欲动，妄图与国民党军队里应外合。为了避免兵临城下、内部暴乱局面出现，在中共中央东北局的批示下，实行了全市性第二次大搜捕，在5月26日进行的大搜捕中，将已掌握的118名反动党团、特务及建军骨干分子全部逮捕，给敌人以沉重打击，对稳定当时局势，维护治安起了相当大作用。

　　为了彻底消灭匪患，东北局和东北民主联军总部根据毛泽东《关于剿匪工作的决定》，要求各地必须在最短时间内，彻底肃清土匪。按照这一指示精神，哈尔滨市公安局、松江军区及驻哈警卫部队立即行动起来，开展了剿匪斗争。6月25日，在哈尔滨机场捕获了正在准备刺杀“军调小组”成员的国民党特务6人，一举破获“爱国锄奸团”特务组织，30余名特务全部落网。7月18日，松江军区保卫部破获了胡宗南西安战干团在哈以“露绿牛奶馆”作掩护的特务组织，捕获特务分子50余人。8月26日，我军通过里应外合，一举破获了国民党陆军新编27军姜鹏飞案，捕获了军长姜鹏飞及所属骨干分子32人。8月28日，又破获了利用封建会道门举行暴乱的李明信所属匪徒，当3000多名手持大刀、长矛的黄枪会分子猛冲上来的时候，我警卫部队立即还击，当场击毙30余人。同日，又将东北救国军第六路军第三军军长崔大刚、倪信生等53名要犯捕获。8月30日，在道里偏脸子将“八二八”暴乱匪首李明信及其“八大处”要犯捕获。9月10日，经特别法庭公开审讯后，将姜鹏飞、李明信、崔大刚等匪首枪决。至此，在我军进驻哈尔滨后的4个多月里，先后破获12支国民党建军组织，逮捕人犯313名，粉碎了国民党利用建军组织破坏我根据地建设的阴谋。

　　在我军对哈尔滨市区建军土匪予以打击摧毁的同时，亦开展了对市郊和周围各县的武装剿匪工作。早在1945年12月12日，松江人民自卫军发出剿匪命令，组成野战军剿匪司令部，野战兵团奉命出动对哈尔滨周围各县的土匪进行了清剿。至1946年6月，经过大小战斗102次，毙伤、击溃土匪12000余人。随后，东北民主联军总部决定将北满各主力部队各抽调三分之一的兵力参加剿匪。

　　哈尔滨郊区及周围各县的剿匪斗争，在1947年上半年基本结束。在我军事打击、政策争取及宽大政策的感召下，收降了十几股土匪，消灭击溃土匪十余股，收降大小土匪团伙80个、匪首97名、匪徒483名。哈尔滨郊区及周围各县的土匪基本肃清，保卫了人民的胜利果实，巩固了我军的战略后方，为加速解放战争的胜利起了重要作用。