自秦统一中国(前221年)至清康熙六年安徽建省(1667年8月30日)前的近19个世纪，中国封建社会从发展到鼎盛，地方行政区划设置和管理体制也随之不断地完善，县级地方政权设置也随着经济发展，由北向南逐渐稳定。
一、秦、汉
秦推行郡县制，今安徽境内设县有25个，先后属九江(治寿春邑)、砀郡(治砀)、陈郡(仍治陈)、会稽(吴)郡(仍治吴)。秦末至楚汉相争期间，又增置鄣郡(治故鄣)、衡山郡(治邾)、庐江郡(治番阳)，并为九江(都六)、西楚(都彭城)、衡山(都邾)等项羽所封诸侯国分领。
汉初，今安徽境内仍为楚(韩信封于下邳，今江苏睢宁县古邳镇)、淮南(刘邦改封黥布，仍都六)等异姓王封地。不久，为刘邦改封的同姓王所领的淮南(改都寿春，今寿县城关镇，后又分为淮南、庐江、衡山国，又从九江分出六安王国)、荆(荆亡为吴国，后又为江都等王国)、淮阳、梁等国。初时，王国之下领郡辖县，后由王国统县，再后又大部分恢复以郡领县(侯国、邑)，仍以郡(王国)为一级行政区划，县(侯国、邑)为二级区划。武帝元封五年(前106年)四月，设十三部州刺史作为中央的派出机构，今安徽地区先后设74个县(侯国)，分属豫、徐、扬3个州，涉及9个郡(王国)。其中，扬州刺史部分巡丹阳、九江、庐江郡及六安王国，相当于今淮河以南的江淮、皖南地区；豫州刺史部分巡沛郡、汝南郡和梁王国，相当于今淮北地区的西部和北部；徐州刺史部分巡临淮郡和楚国，相当于皖东地区。
东汉实行州、郡、县三级管理体制，今安徽境内先后设69个县(侯国)，涉及9个郡(王国)，分属扬、豫、徐3个州。其中，扬州涉及与皖境有关的丹阳(含宣城郡)、九江(含阜陵王国)、庐江(含六安王国)3个郡；豫州涉及汝南(含王国)及沛、梁(曾为砀郡)、陈3个王国；徐州涉及彭城(先后为楚国、彭城郡、国)、下邳(先后为临淮郡、下邳国)2个王国。3个州分辖地区类西汉。
二、三国时期魏国、吴国
三国时期，今安徽境内分别为魏国、吴国所设扬州及魏国徐、豫4个州分领，并以江淮地区为拉锯战战场。魏国据有今安徽淮北及江淮北部地区，设39个县，涉及9个二级政区。其中，豫州涉及安丰、汝南、谯(曾为国)3个郡和梁、沛2个王国；徐州领与皖有关的下邳郡、彭城国；扬州领有关的庐江郡、淮南郡。吴国据有江淮南部及皖南地区，设19县，仅涉及扬州的新都、庐江、丹阳3个郡。
三、西晋、东晋
西晋仍实行州、郡、县三级管理体制，安徽境内先后设74个县，涉及14个郡(王国)，仍分属扬、豫、徐3个州。其中，扬州涉及淮南、庐江、丹阳、宣城、新安及西晋末年新置的历阳6个郡，设45个县；徐州涉及临淮、彭城、下邳3个王国新设6县；豫州涉及汝阴、安丰2个郡及沛、谯、梁3个王国所设23个县。
东晋时期，淮北地区先后为“五胡十六国”中的刘汉、后赵(含冉魏)、前燕、前秦、后秦、后燕等国先后占领，仍为徐、豫(含东豫)2个州分领，多为军事占领性质，郡、县建制不全。东晋曾短时间收复淮北地区，徐、豫2个州仍恢复常制，但与江淮、江南地区一样，侨置、滥设各级区划，十分混乱，统属关系也混乱不堪，许多设置朝此夕彼，一地数移，一名数地。初期，侨置郡、县属侨置之州，又有改属他州，杂处原州、郡、县内，后虽土断，也并不彻底，统属改易现象十分严重。尤其是今安徽、江苏境为东晋首都近畿，侨置、滥设超过其他任何地区，形成自永嘉(307～312年)之乱后东晋南北朝时期政区设置的又一次大乱。但这一时期仍延东汉以来的州、郡、县三级管理体制。东晋时期今安徽境内主要分属扬、徐、豫3个州，少部分属侨置的州郡。但其时扬州已不辖江淮地区，而南辖江南地区，徐、豫州已南下江淮，甚至江南地区。
四、南北朝
南北朝时期，宋、齐、梁、陈均先后收复过淮北地区，领有江南地区，并长期以江淮地区为南北纷争的拉锯战战场，江淮地区多为南朝所有，淮北地区常为北朝所据。由于拉锯战争，往往朝为南朝臣属，夕为北兵所据。陈朝后期则以长江为限，江淮地区常为北齐、北周占有。在南朝丧失北土期间，今安徽北境则先后为北朝的北魏、东魏、北齐、北周据有。这些北方少数民族地方政权往往越过淮河，进入江淮北部地区甚至长江北岸。这一时期侨置滥设在安徽境内的州、郡、县三级区划之多已达膨胀的程度。南朝宋已在今安徽境内涉及扬、南豫、南徐、豫、南兖等州及侨州。齐朝已涉及扬、南豫、豫、北徐、南兖等州及侨州。梁朝前期一级区划州级建制大体沿宋、齐之旧；后期已滥有东扬、扬、南豫、西江、和、晋、湘、合、南兖、霍、义、汴、陈、西徐(涡)、谯、淮、武、东徐(南徐)、睢、仁、泾、北徐、安、南谯等24个州及侨州。陈朝在江南地区设有扬、东扬、南豫、宣州等州及横跨大江南北的北江、西江州，以及短期收复的江淮、淮北地区所置的合、霍、豫、谯、潼、冀、仁、北徐、南兖等州。北朝的北魏则先后涉及在安徽境设郡、县的豫、南兖、东郢、东徐(南徐)、颍、陈、涡、潼、淮、仁、扬、江、东扬等州。东魏则涉及豫、徐、南兖、北扬、北徐、颍、谯、睢、淮、仁、财、东蔡、东徐、汴、扬、霍、合、楚等州。北齐则涉及东豫、信、南兖、谯、仁、睢、徐、潼、东徐、扬、合、江、和、西楚、南谯、泾等州。北周则涉及豫、亳、颍、谯、睢、仁、徐、潼、扬、霍、合、晋、和、西楚、南谯、方、吴等州。东晋南北朝大乱期间，南北政权滥置的一级区划在皖境内最多时几达40个州，郡达百数，县达数百。不少流亡政府已无遗迹，无法考稽查核。
五、隋、唐
隋在统一北方后就开始整饬各级区划，统一后对安徽境内各级区划进行进一步调整，实行州、县两级管理体制，共设55个县，所涉及颍、亳、宋、陈、徐、宋、仁、寿、庐、熙、和、滁、濠、扬、蒋、宣、歙17个州。大业初，改州为郡，实行郡、县二级管理体制，并恢复西汉的州刺史分巡制度。今安徽境内设50个县，涉及3个州刺史分巡的15个郡。其中，豫州刺史分巡皖境设17个县，涉及梁、谯、汝阴、淮阳4个郡；徐州刺史分巡皖境5县所涉及的彭城、下邳2个郡；扬州刺史分巡皖境34个县所涉及的淮南、庐江、同安、历阳、江都、钟离、丹阳、宣城、新安9个郡。
唐前期，废郡改州，实行州、县二级管理体制。贞观初，按地理形势分设道级地理区域，今安徽境内初设85个县，涉及33个州，州以上还设置总管府。太宗贞观元年(627年)前后，撤并涡、沈、信、成、文、谯、仁、北谯、化、方、巢、蓼、霍、严、高(智)、南豫、猷(含南徐)、桃、池19个州41个县，保留调整为44个县，涉及15个州3个道。其中，河南道涉及今安徽境内13个县所在的颍、亳、徐、泗4个州；淮南道涉及22个县所在的濠、扬、滁、和、庐、寿、舒7个州；江南道9个县涉及所在的宣、歙2个州。中唐时期，道正式成为一级地方行政区划，实行道、州、县三级管理体制。玄宗天宝年间(742～755年)，改州为郡，实行道、郡、县三级管理体制，不久复郡为州，道、县不变。这一时期，今安徽境内共设55个县1个军，涉及17个州(郡)，这还不包括曾领过皖境内的昇、饶2个州，分属河南、淮南、江南东、江南西4个道。其中，河南道在安徽设13个县，涉及颍(汝阴郡)、亳(谯郡)、宋(睢阳郡)、徐(彭城郡)、泗(临淮郡)5个州；淮南道在安徽设25个县，涉及扬(广陵郡)、滁(永阳郡)、濠(钟离郡)、寿(寿春郡)、庐(庐江郡)、和(历阳郡)、舒(先后为同安、盛唐郡)7个州；江南东道设7个县，先后涉及歙(新安郡)、昇2个州；江南西道设12个县，涉及宣(宣城郡)、池2个州。晚唐时期，今安徽境内设64个县，涉及15个州(不含朱温所设辉州)，为5个节镇分领。其中，宣武军在安徽设9个县，涉及宋(后改属辉州)、亳、颍3个州；武宁军在今安徽境内设16个县，涉及徐、宿、濠3个州；淮南节镇在今安徽境内设22个县，涉及扬、滁、寿、庐、和、舒6个州；宁国军在今安徽境内设17个县，涉及宜、歙、池3个州。
六、五代十国
五代十国时期，淮北地区先后为后梁、后唐、后晋、后汉、后周5个中原短命的小朝廷分领，南方(含江淮、江南地区)先后为吴国和南唐国据有。这一时期仍实行晚唐的地方行政管理体制，但一级区划节镇(又称道)比唐朝后期要小得多，有的仅是改州为军，领州也少得多。五代中期至后周前期，淮北地区设13个县，涉及亳、颍、宿、徐、辉(后唐改为单州)5个州，为宣武(涉及亳、颍、辉3个州8个县。后唐改为归德军)、武宁(涉及徐、宿2个州5个县)军分领。后周据江淮地区后，设25个县1个军，涉及7个州，为忠正、保信2个军分领，共设38个县1个军，涉及12个州，分属4个军镇。其中，忠正军在安徽设12个县1个军，涉及寿、濠、滁、雄4个州；保信军设13个县，涉及庐、和、滁3个州。吴国据有江淮、江南地区，在今安徽境内设41个县，涉及10个府、州，为德胜、清淮、宁国3个军及江都府分领。其中，德胜军在江淮地区设13个县，涉及庐、和、舒3个州；清淮军在江淮地区设11个县，涉及寿、濠、滁3个州；江都府在江淮地区设1个县；宁国军在江南地区设17个县，涉及宣、歙、池3个州。南唐先后在安徽江淮、江南地区设43个县。前期清淮军领寿州(5个县)；定远军设7个县(军)，涉及濠、滁、雄(后改建武军)3个州；德胜军设8个县，涉及庐、和2个州；永泰军领有舒州5个县；西都江陵府领有沿江和州1个县及直属5个县；宁国军领有宣州6个县；康化军领有池州3个县；奉化军江州在安徽江南设1个县；建武军在江南地区设5个县，涉及歙州、婺源制置使。后期，南唐失江淮地区的5个军中的7个州1个府所设25个县，仅领有江南地区21个县所涉及的宁国、康化、奉化、建威4个军及西都江宁府所在的新和、池、江、歙4个州及婺源制置使5个二级区划。
七、宋朝
北宋时期实行路、府(州、军、监)、县(不带县军、监)三级管理体制。今安徽境内先后设64个三级行政区划(62个县2个监)，先后涉及4个府13个州8个军，计25个二级行政区划，分属5路。其中，京东西路在今安徽境内设2个县，涉及单、徐2个州；京西北路设4个县，涉及颍州1个县；淮南东路设13个县，涉及亳、宿、泗、扬、滁5个州；淮南西路设21个县，涉及寿春府及庐、和、舒、濠4个州，六安、无为2个军，计7个二级行政区划；江南东路设22个县1个监，涉及宣、徽、池、太平4个州及广德军，计5个二级行政区划。
宋、金对峙期间，南宋初领今安徽全境，后以长淮为限与金国对峙，江淮地区常为战场。北方先后为金国(含伪楚、伪齐)、蒙古汗国(后为元朝)所据。南宋先后在今安徽境内设51个县1个监，涉及3个府8个州7个军计18个二级行政区划，为淮南东、淮南西、江南西3个路分领。淮南东路在安徽设7个县，涉及泗、滁2个州和招信、淮安2个军；淮南西路设22个县1个监，涉及寿春、安庆2个府，庐、和、濠3个州，六安、无为、镇巢、怀远4个军，计9个二级行政区划；江南东路设22个县1个监，涉及宁国府，徽、池、太平3个州，广德军，计5个二级政区。早期，南宋领有淮北地区的顺昌府、宿州等二级政区。金国(含伪楚、伪齐及金亡后的蒙古汗国)在今安徽境内设16个县，涉及7个州，为2个路分领。其中，南京路(初为汴京行省)在安徽设14个县，涉及归德府(后改属永州)，宿、泗、寿、颍、亳、徐6个州；山东西路在安徽设2个县，涉及徐州。
八、元朝、明朝与清初
元朝实行行省、路(府、州)、散府(州、军)、州(县)四级管理体制。在今安徽境内设60个县，涉及11个路2个府10个州，分属3个行省。其中，中书省(腹里)在今安徽境内设1个县，涉及济宁路；河南行省(前身为江淮行省)在今安徽境内设38个县，涉及归德府(设4个县，涉及徐、宿、亳3个州)、汝宁府(设4个县，涉及颍州)、庐州路(设11个县，涉及无为、六安、和州3个州)、安丰路(设8个县，涉及濠州)、安庆路(直管6个县)、扬州路(仅滁州设3个县)、淮安路(仅泗州在安徽设3个县)7个二级行政区划，10个三级区划，分属河南江北、淮西江北、江北淮东3个道；江浙行省在安徽设22个县，涉及宁国路(直管6个县)、徽州路(直管5个县及婺源州)、太平路(直管3个县)、池州路(直管6个县)、广德路(直管2个县)5个二级政区，为江东建康道(徽州、宁国2个路)及江南行台(直管太平、池州、广德3路)分辖。
明朝也实行三级管理体制。其中，南北两直隶及十三布政使司为一级行政区划，习称行省，府、直隶州(厅)为二级区划；散州(厅)和县为三级区划。今安徽地域属南直隶西部地区，设49个县7个散州，涉及凤阳、庐州、安庆、太平、池州、宁国、徽州7个府及徐州、滁州、和州、广德4个直隶州，计11个二级行政区划。
清初承明制，改南直隶为江南省，今安徽地域属江南省西部地区，仍设56个散州和县(不含民国期间划出的英山、婺源县，解放后划出的盱眙、泗洪县，但含划进的萧县、砀山县)，涉及安庆、徽州、宁国、池州、太平、庐州、凤阳7个府及徐州、广德、和州、滁州4个直隶州，计11个二级行政区划。