山西农业大学的历史可以追溯到1907年，当年私立铭贤学堂的创办为学校的发展奠定了基础。随着时代的变迁，学校不断拓展其教育领域，1916年增设了大学预科，1928年和1931年分别开设了农科和工科，为学生提供了更广泛的选择。尽管1937年七七事变导致学校被迫南迁，但学校依旧坚持教育使命，辗转到达四川金堂县。1940年，学校获得了国民政府教育部的批准，正式成立了铭贤农工专科学校。1943年，学校进一步发展，改建为私立铭贤学院，学系也从最初的3个扩展至8个。

1947年，铭贤学院从金堂迁往成都继续办学。1950年11月，铭贤学院迁回山西太谷原址，同年山西省人民政府接管学校，将其由私立转为公办，并正式成立了山西农学院。1951年，学校的部分系别并入了山西大学的相应学院，而初中部则与太原农业技术学校合并，更名为山西农学院附属农业技术学校。1955年，山西农学院附属农业技术学校划归山西省农业厅领导，并更名为太谷农校。1958年，太谷农校并入山西农学院，更名为山西农学院专科部。

1962年，朔县畜牧兽医学校专科部并入山西农学院，进一步壮大了学校的规模。1971年，山西农业劳动大学并入学校，增强了学校的综合实力。1975年，学校在昔阳、雁北、运城组建了3个分院，分别为大寨、雁北、运城农学院。1979年，经国务院批准，大寨农学院并入山西农学院。同年，学校更名为山西农业大学，成为全国重点高等学校。

2012年，学校成为山西省人民政府和农业部共同建设的高校。2014年9月，学校入选了第一批卓越农林人才教育培养计划改革试点项目。2016年，学校入选了中西部高校基础能力建设工程，并被列入山西省高等教育综合改革试点高校。2017年，学校入选了全国首批深化创新创业教育改革示范高校，同时被认定为全国农业农村信息化示范基地，并获得了留学生招生资格。

2018年，学校被认定为山西省第二批省级大众创业万众创新示范基地。历经百年风雨，山西农业大学始终秉承着教育初心，不断前行，为国家培养了一大批农业领域的人才，为我国农业的发展做出了重要贡献。