1996年衡水地区撤区建市，原县级衡水市改为新衡水市的桃城区。原衡水市的第一职业中学并入桃城区后，其人员、教学设备于96年7月底全部撤走，该校址、校舍划归市属。鉴于当时衡水市区人口增长较快，学生上高中难的问题日益突出，市政府决定在原一职中校址创办由市教育委员会直接管理的衡水市第二中学。

　　1996年8月初，市教委指定曾在重点中学衡水中学担任过教务主任、在一职中担任过副校长的刘石刚作为负责人，正式筹建市二中。当时衡水市的中考招生已经接近尾声，各重点中学、中专学校和普通高中的招生已经结束，职教中心的招生也将要结束，距离新学年开学仅有不足一个月时间，市二中的筹建工作紧急上马：组织教师队伍，清理修整校舍，购置桌椅床凳，配备基本教学仪器、教材，招收第一届新生……一系列工作同时展开。到8月下旬，学校筹办工作大体就绪，第一届高中招收了四个教学班，280名学生，9月10日衡水市第二中学正式开学，并立即投入军训和学前教育活动。