河南省开封高级中学的历史渊源可以追溯至清末的两所学校，即“河南省大学堂”和“开封府中学堂”。河南省大学堂成立于1902年，后来发展为1903年的河南省高等学堂，1913年改称河南省立第一中学，位于开封前营门。开封府中学堂成立于1904年，1913年改为河南省立第二中学，在开封大纸坊街设有校址。

1927年，两校合并，称为“大一中”或“河南省立第一中学”，校址包含了前营门和大纸坊街。然而，1928年夏季，“大一中”分裂，前营门处成立了河南省立第一高级中学，即后来的“开高”，于1933年正式更名为河南省立开封高级中学。大纸坊街则设立了河南省立第一初级中学，1933年更名为河南省立开封初级中学，后来迁至东司门，直至1946年改名为河南省立开封中学。

随着历史的变迁，学校名称几经调整。1950年，改为河南省立开封第一初级中学，1951年，省立开高的一年级新生转入省立开中，校名改为开封第一中学，1952年，省立开高原址的高二、高三学生并入，两校合并后继续沿用开封第一中学的校名。此后，学校经历了河大附中、河师大附高等不同阶段，最终在1956年正式更名为河南省开封第一高级中学，位于铁北街。1971年，学校更名为开封26中，1978年恢复原名开封一高，1985年再次恢复开封高中的校名。