在1937年“四一五”和1938年“三一五”敌人的两次大破坏中，中共城乡地下党组织遭到极大损失，但党的地下活动并未停止。

　　1937年“四一五”事件中摆脱敌人搜捕的中共哈尔滨市委书记张志恒(张瑞麟)继续留在哈尔滨，隐蔽在工人中开展秘密工作。到1938年8月，他在三棵树机车厂发展了4名党员，并组建了党支部。1939年2月，又在哈尔滨道外荣记铁工厂建立起一个党支部，张亲任书记。他们坚持党的地下工作，在工人中进行抗日爱国宣传。

　　1939年2月，北满临时省委派原下江特委成员方冰玉、抗联战士小林到讷河开辟抗日工作o—6月，北满省委又派抗联6军2师政治部主任尹子魁(李俊峰)到讷河，并于8月成立了中共讷河县委，尹子魁任书记。讷河县委的建立，有力地推动了黑龙江西部地区的群众抗日斗争。同年4月，中共北满临时省委第二次执委全会后，又先后派张文廉、高吉良、徐泽民等到肇州开辟抗日工作。1940年2月，北满省委在肇州组成中共龙江工作委员会，张文廉任书记，领导肇州西土城、大阁庙两个区委和肇源区委、肇东区委。龙江工委成立后，积极发动群众，组织抗日救国会和抗日武装，配合抗联开展游击战争。8月，北满省委将龙江工委改组为肇州县委，高吉良任书记。

　　与此同时，活动在城市的中共党员不畏敌人的白色恐怖，竭尽全力地坚持党的地下工作。1941年2月下旬，抗联第三路军3支队军医官、中共党员王耀钧在齐齐哈尔养伤期间，利用公开职业，秘密进行抗日宣传活动。7月，他联络了齐齐哈尔铁路员工、爱国志士史履升、佟允文等成立了“北满执委部”，王耀钧为党代表。他们以齐齐哈尔为中心，又先后在哈尔滨、吉林、长春、沈阳等地建立了7个小组和一个分组，成员约60余人。主要从事搜集和侦察敌情，发展反日会员，支援抗联等活动。8月，根据9支队参谋长兼党委书记郭铁坚的指示，将“北满执委部”改为“北满抗日救国会总会齐齐哈尔分会”，王耀钧为党支部书记。

　　中共中央对东北的抗日斗争，包括东北党组织的地下斗争一直十分重视。全国抗战爆发后，党中央于1939年1月成立东北工作委员会(设在晋察冀分局)，其任务是研究总结东北地方党的工作经验，寻找东北地下党组织和抗联队伍。1939年6月曾派王朋(彭申年)由延安来东北。1940年6月，王朋在饶河找到抗联7军。根据中央关于多线派遣、单线领导的方针，中央东北工作委员会、华北局社会部胶东区党委多次派出干部到东北敌占区秘密从事抗日活动。1943年1月，先后派胡铁桥、李秀山等到哈尔滨开展党的地下工作。他们利用同乡、同学等关系站住脚跟，发展党员。先后建立起江北造船所、鸡鸭公司、三棵树造船所等3个党支部。1943年9月，根据胶东区党委北海地委的指示，正式组建了中共哈尔滨工作委员会，胡铁桥任书记。到1945年“八一五”前，在哈尔滨共发展党员40余名。此外，中共中央还通过晋察冀中央分局社会部向东北派出许多情报人员，潜入各地。他们机智勇敢地利用合法身份打人敌人内部，从中搜集军事、政治、经济情报，为我党我军收复东北失地创造了有利条件。

　　这些战斗在城乡地下的党组织和共产党员，虽然有些被敌人破坏或壮烈牺牲，但是作为一条反抗日本侵略的战线，有力地配合和支援了公开的抗日武装斗争，对于抗日战争的胜利发挥了不可替代的作用，做出了重要的贡献。