在创建东北根据地之初，毛泽东就指出了“建立党的核心”的重要性。因此，黑龙江地区各省一开始就把建立和发展党组织摆上了重要日程。

　　鉴于东北地区日伪统治时间较长、我党进入东北初期影响较小、土匪汉奸活动猖獗的实际情况，1945年11月19日，中共黑龙江省工委指示，发展党员要选择经过斗争考验的对象，由县工委、区委老干部直接掌握，秘密发展。12月31日，中共松江省工委制订了“严密、慎重与个别发展”的建党方针。该省在派有工作队的地区，如方正、木兰、通河等县发展党组织。在重点区域还秘密建立了党支部，其他地区则没有大量发展。

　　1946年7月7日，东北局在《关于形势与任务的决议》中指出：“随着群众运动的发展，必须吸收在斗争中的积极分子入党，并在农村中建立党的堡垒一支部”。我党大批土改工作队下乡后，以贫雇农为骨干，秘密发展了一批党员。不久，东北局指出，在发展党员注意表现的同时，还要考察阶级成分和历史是否清白；对已吸收入党者，必须严格审查，必要时予以洗刷，以保证党的纯洁性。

　　从1946年冬到1947年秋，由于我党军事胜利和后方逐步稳定，各省经过煮“夹生饭”斗争，发动了群众，使贫雇农的阶级觉悟普遍提高，具备了大量发展党员和建立基层组织的条件。同时，各省党组织大批地清洗了初期混入的一些坏分子。各省在煮“夹生饭”后发展的党员，大部分是贫雇农积极分子，政治上比较可靠。有的地方还建立起党支部。各省利用办训练班、扩大农会和工作队等有效办法，培养了一大批基层党的积极分子，为党组织准备了大量新鲜血液。在“砍挖”运动中，各省联系煮“夹生饭”，发展了许多成份好、觉悟高和对敌斗争坚决的党员。他们在土改运动和剿匪战斗中，起到了骨干作用，成为对敌斗争中的领导力量。

　　1947年11月3日至21日，东北局在哈尔滨市召开北满各省省委书记联席会议，传达了党中央的指示，作出在东北解放区进行整党的决定。各省结合土改实际，开展以“三查”(查阶级、查思想、查作风)、“三整”(整思想、整作风、整生活)为内容的整党运动。各级党组织坚持正面教育原则，集中组织党员学习全国土地会议精神和毛泽东的《目前形势和我们的任务》等文件，普遍开展“三查”、“三整”，自觉开展批评与自我批评，进行思想、工作和生活作风整顿，密切了党与群众的关系，使党组织得到进一步的纯洁和巩固。

　　11月25日，松江省委召开会议，省委书记张秀山传达了上级有关整党的会议精神。指出，这次整党的重点，是解决老干部及老部队存在的问题。他要求老干部不能带着“右倾”思想及不正派的东西回关里，要大家动手，上下一致，从高级干部整起，对错误言行进行斗争。他还要求各部门要进行生活、思想和制度检查，所有的干部都要下乡，真正参加实际工作。下面的干部，则要经过贫雇农大会评议，不断地在土改中进行改造、教育、考验、审查、清洗。12月15日，合江省委书记张闻天在直属各单位党员大会上作了《整顿我们党的队伍》的动员报告，分析了党员在思想、作风和生活等方面的问题。他说，如果让这些缺点存在与发展下去，我们的党就会蜕变，就会变质，就不能领导中国革命走向胜利。我们必须毫不犹豫地以最大的决心整顿我们党。

　　黑龙江地区党组织经过这次全面整顿，极大地提高了广大党员干部的政治思想水平，改进了工作作风，密切了党群关系，遏制了官僚主义和自由主义蔓延，纯洁、发展和壮大了各级党组织。

　　随着形势的发展，在普遍整党的基础上，建党问题也提到了工作日程。1948年7月，东北局根据中共中央《关于东北积极地、公开地、审慎地建党工作的指示》，强调各省要“积极地、正确地公开建党”。为了贯彻东北局指示，各省召开了组织工作会议，布署全面开展公开建党工作。各地党组织经过两个月的试点，取得了公开建党的经验。他们采取有重点、有阵地、波浪式地推进方法，使公开建党工作迅速在各地展开。9月，城市公开建党工作首先在哈尔滨市开始。接着，齐齐哈尔、佳木斯等地和铁路、矿山等也陆续公开建党。

　　经过秘密建党、全面整党和公开建党，党的各级组织普遍建立，不断发展，党的队伍迅速壮大，基层支部的战斗堡垒作用显著提高。到1948年，黑龙江地区党员发展到6万余人，农村支部建立3 500多个。随着各省基层党组织的建立和发展，党的战斗力得到极大增强，有力促进了根据地人民政权的不断巩固和工农业生产的迅速发展。