五代十国时期，菏泽境域分属曹州、濮州、郓州、宋州、单州。夏代，分属于兖、徐、豫三州。

商代，境内中部有三鬷国，定陶与曹县之间有莘国，鄄城与郓城之间有顾国、黎国。

西周，今境中部属曹国，东部属鲁国和茅国，西北部属卫国，南部属宋国，东南部有郜国，东北部有须句国，西南有贯国。

春秋战国时期，境内分属宋、鲁、卫国。秦，境内中部、北部属东郡，南部和东部属砀郡。

汉代，境内分属东郡、山阳郡、济阴郡及豫州之梁国。

三国时期，境内属曹魏的兖州。

西晋时，境域分属兖州济阴郡、濮阳国、高平国、东平国、陈留国和豫州梁国。

东晋十六国时期，境域先为后赵、前燕、前秦、后燕等国据有，后属东晋之济阴、濮阳、高平、北济阴郡。

南北朝初期，境内东部属刘宋，西部属北魏。北魏孝明帝孝昌三年（527年），置西兖州，济阴郡改属西兖州，州、郡同治定陶。不久，州郡同迁左城（今定陶县西力本屯一带）。天平元年（534年），北魏分为东、西魏，境内属东魏西兖州的济阴郡、濮阳郡。北周武帝宣政元年（578年），北周灭北齐，改西兖州为曹州，仍治左城，是为曹州得名之始。

隋代，境内中部属曹州，北部属濮州，东北部属郓州，东南部属戴州，南部属宋州。

唐代，境内属河南道。

五代十国时期，境域分属曹州、濮州、郓州、宋州、单州。

北宋，境内初属京东路。

元代属中书省。

明代，境内大部属山东承宣布政使司所辖的兖州府，西部和北部各有一部分，个别属京师大名府和山东布政使司所辖的东昌府。明洪武元年（1368年），因水患将曹州迁徙安陵镇（今牡丹区大黄集镇安陵集），次年又迁至盘石镇（今曹县城）。洪武四年（1371年）降曹州为曹县。明正统十年（1445年），复置曹州，领两县。

清雍正二年（1724年）曹州升为直隶州。雍正十三年（1735年），曹州升为府，辖1州10县。

中华民国初期，境内除东明县属直隶省外，其他全属山东省。民国三年（1914年）省、县之间增设道，境内大多数县属济宁道。民国十四年（1925年）10月22日，山东省将原4道增为11道，境内大部分县属曹濮道，东明县属直隶省大名道。民国十七年（1928年）废道制，东明县属直属河北省，其余县直属山东省。民国二十一年（1932年）南京国民政府规定省下设行政督察区，于菏泽设立山东省第二行政督察区，除东明县属河北省第十七行政督察区外，其余各县皆属之。