利辛县辖地，先秦分属古胡子国、州来国地。胡、州来先后为楚所灭，遂属楚地。秦置郡县，分属汝阴、下蔡县地。汉，析置城父、山桑县，遂分属汝阴、下蔡、城父、山桑县地。三国、两晋，依汉制。南北朝，南宋将城父县并入浚仪，北魏于山桑县地置涡阳县，遂分属汝阴、下蔡、浚仪、涡阳县地。隋，复置城父、山桑县，遂分属汝阴、下蔡、城父、山桑县地。唐，天宝元年(742)改山桑县为蒙城县，遂分属汝阴、下蔡、城父、蒙城县地。五代、宋(辽、金)，依唐制。元，至元二年(1265)省汝阴县入颍州，遂分属颍州及城父、下蔡、蒙城县地。明，洪武中，废城父县入亳州，废下蔡县入寿州，遂分属亳、颍、寿州和蒙城县。清，雍正十一年(1733)，于寿州地析置凤台县；雍正十三年(1735)，于颍州地析置阜阳县；同治三年(1864)，析阜阳、蒙城、亳州、宿州地置涡阳县，遂分属阜、涡、蒙、凤4县地。民国年间，依清制。中华人民共和国成立后，依清代、民国旧制。
1964年9月12日，安徽省人民委员会向国务院报告：“以阜阳、蒙城之间的公路交叉点之利辛集为中心，分别从阜阳、涡阳、蒙城、凤台四县划出部分地区设置利辛县。”同年10月31日国务院全体会议第148次会议通过，决定设立利辛县。1965年5月1日，由阜阳专员公署筹备，组建利辛县人民委员会，析阜阳县王人、王市、马店、胡集4区，析涡阳县阎集、江集、张村3区，析凤台县阚疃、展沟2区，析蒙城县望疃区，共10个区组成利辛县辖区，宣布开始办公。办公地点临时设在阎集区公所院内，同年10月移于今址。