西周时期，境北部属陈国，南部属沈子国。
春秋时期，鲁定公四年(前506年)，蔡灭沈子国，境南部自沈入蔡；鲁哀公十七年(前478年)楚灭陈，境北部自陈入楚。
战国时期，境北部由楚入魏，南部属楚。
秦，始行郡县二级制，境北部属新阳县，南部属寝县，统辖于颍川郡。后分立陈郡改属之。
西汉，汉高帝六年(前201年)改新阳县为侯国，境北部属之，后复为县；汉宣帝地节四年(前66年)境中部置阳城侯国，旋废；南部仍属寝县(一作县)。同辖于汝南郡。
王莽篡汉，始建国元年(公元9年)改汝南郡为汝土贲郡，改阳城为新安，改新阳为新明，改寝为闰治。
东汉，始行州郡县三级制，境北部属新阳侯国；南部属固始侯国，后国废为县；中部属汝阴县。同辖于豫州汝南郡。
三国魏，境北部属新阳县，南部属固始县，同辖于豫州汝南郡。
西晋，新阳县废。境北部属宋县，南部属固始县，同辖于豫州汝阴郡。惠帝分汝阴郡置新蔡郡，固始县改属之。
东晋，境北部属汝阴郡宋县，南部属新蔡郡固始县，同辖于豫州。
南朝宋、北魏，境北部属汝阴郡宋县，南部属新蔡郡固始县，同辖于豫州。
东魏，境北部属北扬州汝阴郡宋县，南部属豫州新蔡郡固始县。
北齐、北周，北部属颍州陈留郡陈留县，南部属豫州广宁郡褒信县。
隋，开皇三年(583年)罢郡为州，境北部属颍州陈留县(后更名颍阳县)，南部属沈州鱼同阳县。大业三年(607年)罢州为郡，北部属汝阴郡颍阳县，南部属淮阳郡鱼同阳县。
唐，贞观元年(627年)，废颍阳，并入汝阴。武德初罢郡为州，天宝元年(1742年)罢州为郡，乾元元年(758年)罢郡为州。境北部属汝阴县，南部属沈丘县，同隶属于颍州(汝阴郡)。
五代，先后为梁、唐、晋、汉、周领地，县境分属颍州汝阴县、沈丘县。
宋，开宝六年(973年)分汝阴北5乡置万寿县。境北部属万寿县(后改泰和县)，南部属沈丘县，同辖于京西北路颍州(后改顺昌府)。始置界沟镇于现城区东北部，属万寿县。
金，境分属泰和县、沈丘县，同隶属于南京路颍州。
元，境分属泰和(后改太和)、沈丘县，同隶于河南江北等处行中书省颍州。至元三十年(1293年)改属汝宁府。
明，境北部属颍州太和县，南部属颍州，同隶属于南京凤阳府。城区西北部属河南布政使开封府陈州沈丘县。
清，雍正二年(1724年)境北部改属亳州太和县，十三年改颍州为颍州府，境北部改属安徽省颍州府太和县，境南部改属阜阳县，城区西北部属河南省陈州府沈丘县。
民国初，县境大部属安徽省淮泗道阜阳县、太和县。民国21年(1932年)设阜阳专员公署，太和县、阜阳县皆属之。民国24年析阜阳县西部置临泉县，境南部遂划入临泉县。民国28年城区西北部发展为皂庙镇，属河南省沈丘县，与界首镇、刘兴镇鼎立为界首三镇。民国36年10月，界首、刘兴、皂庙3镇合并建立界首市民主政府。是年11月境北部属沈鹿淮县(界首县)，12月南部属泉阳县。界首市、界首县同属豫皖苏边区行署二分区，泉阳县属四分区。民国38年3月，豫皖苏边区行署建制撤销，境北部属太和县，中部(现城区)属界首市，南部属临泉县。同辖于皖北行署阜阳专署。
中华人民共和国时期，1953年9月，撤界首市建界首县，划临泉县的洪庄、砖集、陶庙3区，太和县的光武区和税黄区的西部为界首县辖地。隶属安徽省阜阳专区。
1958年11月，界首县与太和县合并为首太县，境南洪庄、砖集2区划入临泉县。翌年4月底，太和县、界首县分置，辖地仍沿原制，属安徽省阜阳专区，至1985年未变。