学院前身为始建于1923年的直隶第六师范，1948年成立冀南建设学院，1949年改建为河北冀县师范学校，1960年迁至衡水并更名为河北衡水师范学校。1978年经国务院批准，在衡水师范学校的基础上建立衡水师范专科学校。1998年10月，经河北省人民政府批准，衡水师专与衡水教育学院合并，成立新的衡水师范专科学校，并以此为基础筹建衡水学院。2004年5月17日经教育部批准，正式升格为全日制普通本科院校——衡水学院，并于2008年增列为河北省学士学位授予权单位，2014年顺利通过教育部本科教学工作合格评估，2017年成为河北省硕士点建设单位。衡水是董仲舒故里，学校是河北省董仲舒研究会会长单位，成立董子学院，名家云集，开坛授学，成为传播董学的国际高地。