隋开皇初（581年），废郡为州，实行以州统县的管理体制。废晋熙郡，改晋州为熙州，治怀宁。改太湖左县为晋熙县，改新冶县为义乡县。开皇十八年（598年），废枞阳郡，改枞阳县为同安县；废高塘郡，改高塘县为宿松县；废大雷郡，改义乡县为望江县；改晋熙县为太湖县。江南地，开皇九年废石城县入南陵。开皇十九年，分南陵县置秋浦县，属宣州。原侨置的和城、晋阳、天水3县废，分属龙城县、彭泽县、秋浦县和鄱阳县。隋大业三年（607年）四月，诏令全国改州为郡，仿效汉制。改江北的熙州为同安郡，领怀宁、同安、太湖、宿松、望江5县，治怀宁。改江南的宣州为宣城郡，领6县，其中有南陵（位于今贵池县境）和秋浦2县。
唐武德元年（618年），改郡为州，法隋开皇之制，实行州、县两级管理。武德四年，改同安郡为舒州，九年，又改舒州为东安州，后复改为舒州。贞观元年（627年），全国分设10道，神龙二年（706年）置巡察使，道成为中央的监察区。舒州隶于淮南道，道治扬州。天宝元年（724年），改舒州为同安郡，至德二年（757年）再改同安郡为盛唐郡，直到乾元元年（758年）改回舒州。唐承袭晋以来的都督府制，在国内重要地区设都督府，分管数州军政事务。舒州曾设舒州总管府，后改为舒州都督府，均为军事机构。舒州领县如隋时同安郡，其中同安县于至德二年（757年）改为桐城县；在宿松县设置过严州，后废；在望江县设置过高州、智州，后均废。江南地于武德四年，以宣州之秋浦、南陵2县置池州、治秋浦，贞观元年又废，秋浦县属江南道宣州。唐至德二年，析秋浦、鄱阳两县地新置至德县，亦属宣州。永泰元年（765年），又分宣州之秋浦、至德等4县复置池州，属江南西道。
五代十国沿用唐制。后梁、后唐两代，舒州隶属于五代吴；后晋、后汉两代则属南唐；后周显德五年（958年），舒州归于后周。江南地，五代·吴顺义二年（922年），改至德县为建德县，六年改秋浦县为贵池县，均隶于池州。五代·南唐保大十一年（953年），升唐置东流场为东流县，隶江州。江南3县均先属五代吴，后属南唐。
北宋初，舒州隶淮南路，熙宁年间，分属淮南西路。政和五年（1115年），赐德庆军军额，知舒州事兼德庆军节度使头衔。南宋绍兴十七年（1147年），改德庆军为安庆军。庆元元年（1195年）宁宗即位，因他曾任安庆军节度使，故将舒州升格为安庆府，府治怀宁，属淮南西路，领怀宁、桐城、宿松、望江、太湖5县（见图2）。江南地，太平兴国三年（978年），东流县自江州割隶池州。在贵池县城东，另置永丰监，除管货务外兼理民政，与县同级，隶属池州。
端平三年（1236年），移府治至贵池县罗刹洲，后又移至杨槎州。景定元年（1260年）改筑宜城，定为府治（根据《宋史》及明嘉靖《安庆府志》记载。一说宋嘉定十年（1217年），黄干迁府治至盛唐湾）。怀宁县先迁至皖口，后随府治迁入宜城，为附廓县。