市境开发较早，从张四墩新石器时代遗址考古发掘的情况看，在距今约7000年前，人类就已在这块土地上劳动生息。
【春秋—五代十国】
春秋时，市境地属桐、皖二国。皖、桐先后为楚灭，属楚国。后属吴国。战国时，复属楚国。秦统一后，属九江郡。
西汉初，改九江郡为淮南王国。文帝前元十六年(公元前164)分淮南王国，立淮南、衡山、庐江3国，属衡山国。后衡山国除，为庐江郡。武帝分全国为13刺史部(州)，隶属扬州刺史部庐江郡舒县、皖县，直到东汉。三国时，初属魏，后属吴。舒县废，属吴庐江郡皖县(郡治)。
西晋平吴，复置舒县，属庐江郡舒县及皖县。永嘉末(313)皖县废。东晋义熙年间(405—418)，于皖县旧地立怀宁县(怀宁之名始见于此，县治在今潜山县)及新冶县(今望江县)，并置晋熙郡。分属庐江郡舒县及晋熙郡怀宁县(郡治)。
南朝宋初，于舒县侨立阴安县，隶晋熙郡。宋、齐时属晋熙郡阴安县、怀宁县(宋时郡治)。梁置豫州，复改晋州，治晋熙郡怀宁。北齐以晋州为江州，陈又为晋州。属晋熙郡怀宁县、枞阳郡阴安县。隋开皇初，改晋熙郡为熙州，领怀宁、宿松、太湖、望江、同安5县。大业三年(607)熙州改为同安郡，怀宁仍为郡治。分属同安郡同安县与怀宁县。
唐武德九年(626)改同安郡为东安州，旋为舒州。天宝元年(742)又改为同安郡。至德二年(757)更名盛唐郡(同安县同时改名桐城县，县治于开元年间移至今桐城县城)，第二年复名舒州。属舒州(同安郡)桐城县、怀宁县。五代十国时，先后属吴、南唐、后周，仍为舒州桐城县及怀宁县辖地。
【宋】
北宋建隆元年(960)舒州(同安郡)团练州升为防御使。政和五年(1115)置舒州德庆军。南宋绍兴十七年(1147)改为舒州安庆军(安庆之名始于此)。庆元元年(1195)升为安庆府，领怀宁、桐城、太湖、宿松、望江5县。市境地属安庆府桐城县、怀宁县。
南宋嘉定十年(1217)四月，金军南下破光州(今河南潢川)。安庆知府黄干奏请朝廷，在“盛唐湾宜城渡之阴”即今城区所在地建筑新城，以备战守。此为安庆建城之始。同时，安庆府治从怀宁县(在今潜山县)移于安庆新城，怀宁县治亦迁皖口(今怀宁县山口镇)。后由于金兵威胁减轻，建城时辍时续。端平三年(1236)蒙古军南进，府治移罗刹洲(今贵池县境内)，又移杨槎洲。府城渐荒墟。景定元年(1260)三月，为防御蒙古军，沿江制置大使马光祖复筑安庆城，怀宁县始迁附郭。安庆城从此府、县同城而治，地域全属怀宁县，一直延续到清末。
【元】
元至元十三年(1276)改安庆府为安庆路，立安抚司。次年改为总管府(治怀宁县)，属蕲黄宣慰司。二十三年(1286)罢宣慰司，直属河南江北行中书省。至治三年(1323)以怀宁县西部的清朝、玉照两乡立潜山县，治怀宁旧城。从此怀宁县境域相对稳定。安庆路领怀宁、桐城、太湖、宿松、望江、潜山6县。元朝后期爆发红巾军起义，元军倚安庆城为屏障。至正十三年(1353)行中书省于淮东改宣慰司为都元帅府，治淮西。以宣慰副使佥都元帅府事分兵守安庆城。
【明】
元至正二十一年(1361)八月朱元璋改安庆路为宁江府，次年四月改宁江府为安庆府。明初直隶南京(又称南直隶)。明末，张献忠起义军逼近安庆，明廷为加强安庆的军事力量，崇祯十年(1637)七月从应天10府中划安庆、庐州、池州、太平4府别设巡抚(简称安庐巡抚)，驻节安庆城。这是安庆第一次设置巡抚，其领辖范围除安庆等4府外，还包括河南光州(今潢川县)的光山、固始、湖广蕲州(今湖北蕲春县)的广济、黄梅、江西德化(今九江市)的湖口等地。
天顺(1457—1464)时，在今城区境内，安庆府设10坊：承流、宣化、澄清、育才、忠节、平政、承恩、布德、中和、富寿。怀宁县设22坊：守道、景定、嘉靖、阜民、孝义、贰政、德仲、辑睦、游艺、经武、字民、润泽、依仁、朝天、由义、登龙、成德、熙春、仁遂、介福、同安、治平。
【清】
顺治二年(1645)因明制，仍立安庐巡抚，驻节安庆城。五年，巡抚移驻池州。六年，归并操江，称操抚。领上下江防事的操江先驻江宁(今南京市)，至此移驻安庆。康熙元年(1662)操江军务归并两江总督(驻江宁)，遂专设巡抚驻安庆。
清初，安庆府隶属江南布政使司(俗称江南省)。顺治十八年(1661)，江南布政使司分为左右二司，均治江宁。安庆隶江南左布政使司。康熙六年(1667)改江南左布政使司为安徽布政使司(安徽省)，仍寄治江宁，此为安徽省建置之始。乾隆二十五年(1760)安徽布政使司自江宁移治安庆，从此安庆正式为省治(省会)。
咸丰三年(1853)太平军攻占安庆，省治迁庐州府(今合肥市)。同治元年(1862)迁回安庆。
清时怀宁县辖3镇、7乡，有33里、23衢。3镇为皖口镇(今山口镇)、长枫镇(今长风镇)、宜城镇(今枞阳门附近)，后2镇在今市境内。今城区为怀宁县在城乡，郊区部分为渌水乡。其四境范围：“在城乡，环城内外，南距江，北至南庄岭接渌水，东抵断碑，西尽大新桥，皆接渌水。渌水乡，东自断碑，循江至下新河接桐境，北自南庄岭至集贤关、门山、大龙山，循石塘湖至界河桥接桐境，西自大新桥，循洲滨而北至石门湖接大丰，循洲滨而南逾海口至老湖塌接望境，逾江至杨家哨(套)接东流”。城内23衢(坊)是：阜民、平易、经武、字民、孝义(在钱家牌楼)、辑睦(在卫前)、润泽、依仁(在饮马塘)、朝天(在北门内)、由义、成德(在正观门内)、熙春、仁遂(在韦家巷)、介福(在墨子巷)、同安(在大南门内)、治平(在盛唐山下)、宣化、忠节、四牌楼(在城中)、三牌楼(在四牌楼北)、状元街(在东门内卫前)、天台里(在城东)、义方里(在城北)。
【中华民国】
民国2年(1913)1月安庆府废，怀宁县直属安徽省。3年6月，安徽省分设安庆、芜湖、淮泗3道，安庆道下辖怀宁、桐城、潜山、太湖、宿松、望江、合肥、庐江、舒城、无为、巢县、和县、含山、滁县、全椒、来安16县。省、安庆道和怀宁县均治安庆城。17年安庆道撤销。
民国11年(1922)设安庆市政筹备处，旋停。16年，安徽省政务委员会议决，筹建安庆市。11月，安庆市政府成立，直隶省政府。18年2月，撤销市政府，改设市政筹备处，隶属省建设厅。次年11月，市政筹备处由省民政、财政、教育、建设4厅组成临时接收委员会接收，改为省会工程专员办事处。
民国27年(1938)1月省会由安庆迁六安，后迁立煌(今金寨县)。同年6月12日安庆城沦陷，怀宁县政府迁至石牌。日本侵略军占领安庆期间，设伪安徽省安庆办事处和伪怀宁县政府。抗战胜利后，省会迁往合肥，怀宁县政府迁回安庆。37年12月安徽省政府自合肥迁回安庆，1949年3月27日迁往芜湖，后迁屯溪。

自民国18年(1929)撤销安庆市政府到1949年，今市城区均属怀宁县，在安徽行政区划中无“安庆”建置，但习惯上仍将怀宁县城区称作“安庆”。民国21年(1932)10月至解放前夕，怀宁县一直属第一行政督察区管辖，抗战胜利后曾一度改属安庆专区。抗战期间行政督察专员公署先后驻太湖、桐城，34年移驻安庆。
民国初，今城区仍为怀宁县在城乡，郊区部分为渌水乡，但其四境范围与清代比有较大变化。“在城乡环城内外，北至渌水十里铺，东抵断碑，西尽七里亭草场，循洲滨而南逾海口，过江至杨家套、大石矶，接东流县境。渌水乡东自断碑，斜渡大江越来字洲，接贵池县境，又由贵境北渡大江至下新河埂，与桐城县接壤，北自十里铺至集贤关总铺，越门山循大龙山，沿石塘湖界河桥接桐城县境，西自蒋家塘在城乡境，沿石门湖向西迤北至车泉涧，接大丰乡境。”民国19年(1930)怀宁县7乡改为7区，设区公所，20年改为自卫区，编查保甲。在城乡改为第一区，辖44保，合组7联保，共419甲；渌水乡为第二区，辖86保，合组16联保，共860甲。24年调整区乡建置，全县7区改划4区，其中原第一、二两区(在城乡、渌水乡)及原第三区的山口乡合并为第一区。区内设署，下设乡、镇、保、甲。抗战胜利后，城内设立大观、文化、新市、中心、枞阳、集贤6镇。36年6镇并为大观、中心、迎江、集贤4镇，共设37保、298甲。