自1912年河南大学成立以来，公共体育教学便成为其不可或缺的一部分。最初的校足球队、网球队、篮球队、田径队和武术团等运动团队在古城开封声名远播。一直以来，大学生体育教育受到高度的重视，1962年成立了公共体育教研室，1974年独立成为副处级教学部门。1994年，教研室并入体育学院，1999年7月再次独立出来，升格为正处级的公共体育教研部，见证了河南大学的成长与壮大。

目前，体育部由72名教职工组成，其中包括6名教授、37名副教授、14名讲师、9名助教，以及1名副研究馆员、3名馆员和2名工人，他们被分为三个教研室，共同协作。

体育部肩负着为全校学生提供公共体育课程的教学重任，同时负责校高水平运动队的训练管理，策划并组织各类全校性体育竞赛，以及代表学校参加全国和河南省的体育比赛。此外，他们还致力于指导学生的课外体育活动和课余运动训练，致力于提升学生的健康与运动素养。