1911年辛亥革命后，中华民国成立，山东行政区划沿袭清朝制度，分为3道、10府等。1913年，北京政府废除府州，改设道县三级，山东调整为4道，共辖107县。1914年，内务部改名区，济南道、济宁道等名称调整。各道管辖的具体县列表如下：

济南道：历城县、章丘县等27县

济宁道：济宁县、滋阳县等25县

东临道：聊城县、堂邑县等29县

胶东道：福山县、蓬莱县等26县

1927年国民政府定都南京，废除道制，保留省县两级。1928年，山东省政府在泰安成立，后迁往济南，济南和青岛成为特别市。1932年，设立行政督察专员公署，1936年又颁发相关条例，将全省划分为12个行政督察区，但实际设立的只有部分。1937年七七事变后，行政督察专员公署数量和区划有所变动，1945年何思源任主席时，调整为鲁北、鲁西北等6个政府办事处和1个行政区、2个特区。1946年至1948年，行政区划经历了多次调整，最终济南、烟台等成为省辖市，1948年6月，鲁东、鲁西南行署撤销，行政督察区数量显著减少。1948年9月济南解放，国民党山东省政府结束。