张小劲的学术生涯起步于1978年9月至1982年7月，他在中国人民大学国际政治系获取了学士学位。随后，他在此继续深造，于1982年9月至1985年7月取得了硕士学位，接着在1985年9月至1990年2月期间获得了博士学位。

海外经历方面，张小劲曾多次赴海外进行学术交流和研究。2007年9月至10月，他在比利时布鲁塞尔自由大学中欧欧洲研究中心（ESCP）担任访问学者；2004年至2005年，他在美国加州大学洛杉矶分校（UCLA）政治学系担任富布赖特访问教授；此外，他还曾赴英国杜伦大学（Durham）和法国巴黎政治学院（SciPo）进行过访问学者项目，以及美国丹佛大学和匈牙利布达佩斯经济科学大学进行过更深入的学术交流。

专业经历上，张小劲自1985年起在人大国际政治系任教，逐步晋升为助教、讲师、副教授。1998年至2010年，他成为中国人民大学国际关系学院的教授，同时也是博士生导师。自2010年起，他转任清华大学政治学系教授，继续担任博士生导师。

在行政职务方面，张小劲曾担任过教育部中国－欧盟高等教育合作项目中方项目主任，中国人民大学国际合作处副处长，国际关系学院副院长（主管外事和研究生事务），欧洲问题研究中心副主任（教育部重点基地），联合国教科文组织研究中心主任（教育部指定中心），以及清华大学政治学系主任等重要职务。