1931年，日本帝国主义悍然发动了九一八事变，由于国民党政府的不抵抗政策，致使大片秀丽河山相继沦入敌手。当时哈尔滨是东北特别区行政长官公署所在地，既是华洋杂处的国际都市，又是中苏共管的中东铁路总枢纽。签于哈尔滨这种特殊的国际环境，“九一八”事变后，日军没有立即对其采取军事行动，而是准备通过汉奸建立傀儡政权搞“和平过渡”。但日本的阴谋在吉黑两省主席诚允、马占山及部分军界爱国将领的抵制下终未得逞。1932年1月27日，日本关东军借口保护侨民出兵哈尔滨。29日、30日、31日在哈尔滨周围地区与吉黑两省的抗日军发生激战，2月5日占领哈尔滨。日本帝国主义在占领哈尔滨后，实行了残暴的法西斯统治。1933年7月1日宣布成立伪哈尔滨特别市，将过去分成四部分的哈尔滨，统一建制为特别市。

　　1937年7月1日，又废止特别市，哈尔滨成为伪滨江省直辖市。日伪政府相继颁布50多种残酷的法令，实行一整套军警宪特统治政策，剥夺人民的一切自由，对有不满情绪的人扣上“反满抗日”“思想犯”等罪名，逮捕迫害，施以惨无人道的酷刑。日本侵略者还在哈尔滨建立细菌部队，用活人做细菌试验，使大批无辜惨遭杀害。

　　日伪政权在残酷压迫哈尔滨人民的同时，对哈尔滨实行“经济统治”，把哈尔滨变成了日本在北满倾销商品，垄断市场和掠夺资源的集散地。“九一八”事变前，日本在哈尔滨的工商业仅有248家，“九一八事变后”日本在哈投资大量增加，到1936猛增至940家，三井，三菱，住友等大财阀都在哈尔滨设有分支机构，日本工商业在哈尔滨日渐之优势，最后垄断了哈尔滨市场。而其它一些外国和本地民族工商业则越来越不景气，及至倒闭。1940年6月，日伪对哈尔滨及东北地区实行了“配给制”和价格统制，禁止中国人吃大米和白面，否则按“经济犯”沦罪。平民只好以糠菜、豆饼等充饥，每年哈尔滨街头都有许多冻饿而死的群众，人民的生活极其凄惨。日本帝国主义的野蛮行径，激起哈尔滨人民的无比仇恨。自日本侵略军占领哈尔滨之日起，哈尔滨人民就在共产党的领导下与之展开了不屈不挠的斗争。

　　哈尔滨是我国传播马列主义思想较早的地区之一。早在1919年4月，周恩来从日本回国，曾到过哈尔滨，在东华中学从事革命宣传活动。1920年以后，李大钊，瞿秋白，罗章龙相继来哈尔滨，从事革命活动。中国共产党诞生不久，党的革命活动家马骏到哈尔滨从事马列主义宣传工作，筹备建立党组织。同时领导了1922年初哈尔滨人民反对国际共管中东铁路，反对卖国的“二十一条”的反帝爱国运动。1923年中共中央派陈为人，李震瀛等来哈尔滨，建立东北地区第一个党组织，即中国共产党哈尔滨独立组。1925年，中共北方局派吴丽石到哈尔滨，整顿哈尔宾的党团组织，成立了哈尔滨特别支部。同年上海发生“五卅惨案”中共哈尔滨特别支部领导哈尔滨人民用实际行动支援了上海工人的罢工斗争。

　　1927年10月，中国共产党东北地区第一次党员代表大会在哈尔滨举行，宣布成立中共满洲省临时委员会。1928年1月成立中共哈尔滨临时县委，同年爆发了全国闻名的哈尔滨学生反对日本侵略中国主权，在东北修筑铁路的示威游行和“一二九”学生运动。1929年6月，当时任中共满洲省委书记的刘少奇和陈潭秋，先后来到哈尔滨加强对工人斗争的领导。

　　1931年“九一八”事变后，由于抗日斗争的需要，1932年1月，中共满洲省委由沈阳迁到哈尔滨，罗登贤担任省委书记。同年，杨静宇担任中共哈尔滨市委书记，从此，哈尔滨成为中国共产党领导东北人民抗日斗争的指挥心。1932年和1933年由赵一曼等人领导哈尔滨电车工人先后举行两次大罢工，迫使反动当局不得不接受工人提出的条件。

　　1933年，按照中央指示，中共满洲省委先后从哈尔滨派出许多地下党员、青年学生、优秀工人奔赴抗日第一线，或深入农村建立抗日根据地，开展游击战争。在艰苦卓绝的斗争中，涌现出了大批英勇的抗日志士，他们的杰出代表有杨静宇、赵尚志、魏拯民、周保中、冯仲云、李兆麟、赵一曼、张瑞麟等，他们都曾在哈尔滨担任重要职务，坚持抗日斗争，在白山黑水、深山密林中，给日本侵略者以沉重打击。许许多多的抗日志士在共产党的领导下，为民族解放事业，前仆后继，英勇斗争，用鲜血和生命迎来了抗日战争的伟大胜利。

　　1945年8月8日苏联对日宣战，苏联红军在东北抗日联军的配合下，击败日本关东军主力。8月15日，日本宣布无条件投降，哈尔滨和东北人民结束了14年的亡国奴生活。

　　1945年11月22日，苏军为履行《雅尔塔协定》将城市政权移交国民党政府。中国共产党为维护和平，顾全大局，避免内战，主动将党政机关和部队撤离哈尔滨。国民党派关吉玉，杨绰庵等来哈尔滨接管了松江省政府和哈尔宾政府及其所属机关。在国民党统治哈尔滨期间，他们大肆搜罗伪军警宪特的残渣余孽，组成“先遣军”“挺进军”和“光复军”等反动武装，极力发展国民党和三青团组织，豢养大批密保，监视进步组织，进行暗杀和破坏活动。1946年3月9日，国民党特务暗杀了中苏友好协会会长李兆麟将军，激起了哈尔滨各界人士的极大愤慨。

　　1946年4月28日，东北民主联军解放了哈尔滨，哈尔滨成为中国第一座解放的大城市。5月3日成立哈尔滨市人民政府，从此，哈尔滨进入了一个新的历史时期。