1920年，哈尔滨工业大学（简称哈工大）正式成立，最初的校名是“哈尔滨中俄工业学校”。该校的建立与俄国在中国建设中东铁路密切相关，中东铁路在抗日战争胜利后改称“中长铁路”。建校之初，哈工大的主要目标是培养中东铁路所需的技术人才，学校采用了俄国的教育模式进行教学。

1920年10月17日，学校举行了隆重的开学典礼，当时开设了铁路建设和电气机械工程两个科系。首届学生共招收了103人，实行学分制，学制为四年，所有课程均用俄语授课。直到1935年，由于日本通过物资交换获得了中东铁路的苏联产权，学校的教育模式开始逐渐转向日本。

1922年4月2日，学校更名为“中俄工业大学校”。课程设置进行了调整，原有的两个科系分别改为了铁路建筑系和机电工程系。毕业生需要通过答辩委员会的考试，合格者将获得工程师称号。1924年10月，该校迎来了首届毕业生，铁路建筑系的22名毕业生顺利毕业，获得了工程师称号。次年，机电工程系也产生了第一批毕业生，共有25人，同样获得了工程师称号。

1928年2月4日，学校正式更名为“东省特区工业大学校”。这一年，学校的隶属关系发生了变化，由中华民国东省特区领导。东省特区行政长官张寰湘将军担任校理事会主席，东北政府国民教育部总长刘哲担任校长，这是哈工大历史上第一位中国校长。

1928年10月20日，学校正式定名为“哈尔滨工业大学”。此后，哈工大由中苏双方共同管理，双方按对等原则共同派人组成理事会，双方各派5名代表。同时，法政学院和商学院也并入了哈尔滨工业大学。