颍州历为州、府、县治地，修志之举由来已久。因年湮代远，明代以前或向无志，或昔有志，均不可考。自明永乐年间至中华人民共和国成立前之540年间，阜阳历史上共进行14次修志活动，平均不到40年修志一次，存世旧志10种，其中州志6种，府志1种，县志3种。
现知最早的修志活动始于明永乐年间，这是全国性的普修，由朝廷诏命各地州县纂修志书。因属于“官修”，时间紧、任务重，加上种种严格条件限制，使编纂工作很草率，志书不足之处很多，如“遗大而识小，详近而略远”，故“无所建明，不足传示”。此志现已不存。
明景泰年间，再次编纂颍州志。这次编纂工作更差，主要是其书不能“传述旧闻”却“反询私谬”。此志也已失传。
明成化十三年(1477年)，颍州同知刘节曾见过所谓“颍州旧志”(不知是永乐志还是景泰志)，因感于该旧志“朴略不可观”，早暮思以修新志书为首务。次年，刘节遍阅颍州史籍，稽诸遗老，对旧志讹错的地方加以考订、补其缺漏，分别事类，增广史料，修成《颍州志》。此志未及刊行，刘节便因病去世。
明正德年间，河南道监察御史颍州人储珊，对刘节编辑的《颍州志》进行校正，未及刊行即迁浙江按察司佥事。正德六年(1511年)，储珊于浙臬任上出俸刻印成书，并为之作序。全书6卷，分建置、城池、疆域、形胜、风俗、山川、古迹、宫室、公署、铺舍、乡井、物产、名宦、寺观、题咏、诗文16门类。1963年12月上海古籍书店据宁波天一阁藏本影印出版，署名《正德颍州志》。此为现存最早的颍州志书。
明嘉靖十五年(1535年)颍州判官吕景蒙主修《颍州志》。吕取刘志原本，稍加订正、增广门类拟定编目，州学庠生赵富等人采访资料，掌教胡衮编纂，最后由吕审定并作志书序言和各卷的小序。各小序虽然议论正大，但不切合颍州实际。全志20卷，设郡纪、郡县、疆域，封爵、职官、人物、舆地、建置、食货、沟洫、礼乐、学校、兵卫、命使、名宦、乡贤、过宾、名将、死事、孝义、遗逸、贞烈、侨寓、方技、外传25门类。此志有体有法，详于正德志，尤值一提的是该书为陈胜、邓宗、刘福通等农民起义军领袖立传、实为难得。后人张鹤鸣评此志云：“简确严密，犹为实录”。
明嘉靖二十六年(1547年)知州李宜春主修《颍州志》2卷，设州考(附集镇村坡)、舆胜、秩官、建置、赋产、风俗、学校、选举、人物、宦业、兵防、传疑12篇。此志史料不多，议论不少。李宜春在每一门类记叙事前必大发一通议论，而其论较之吕论更加空泛。各门内容亦浮语饰文，枝蔓横生。故张鹤鸣谓此志：“多出山人墨客之手，实损而繁滋，意欹而词芜”。此志虽存，作用甚微。
明万历三十二年(1604年)由知州林学闵倡修，委工部尚书州人张鹤鸣编纂《颍州志》，另有张鹤腾、宁中立、徐元礼等人，共襄其事。张氏兄弟与宁、徐皆为进士出身，宁任礼部主事，徐为刑部郎中，修志班子甚强。此志纲目义例大都如刘吕二志，间采舆论，稍为增饰。历时2年，在知州孙崇先任内修成，但未刻印。至万历三十六年(1608年)宁中立因返乡探亲，便与兵部尚书州人刘九光取张志稍稍增益，于南京刻板印刷成书。此志上卷失传，下卷(艺文志)尚存。张鹤鸣，宁中立均为之序。
清顺治初年，朝廷仿宋太平兴国旧例，诏命收集全国各地方志，以备修国史之用，而颍州志独缺。顺治七年(1650年)知州孙可成(星台)主持修志，名儒张紫淀协修，李储音及刘壮国等人编纂，顺治九年书成后，新任知州王天民为之序。全志分郡纪、舆地上(境图、分野、沿革、形胜、界至、风俗)、舆地下(山川、城址、旧郡县、营寨、书院、堂亭、陵墓)，建置(城池、公署、里巷、村镇、牌坊、铺舍、桥梁、楼闾、生祠、濠闸)、食货(户口、田赋、征役、马政、物产)、典礼、学校、军卫、郡县、封爵、职官、选举、宦业、名贤、武略内传、武略外传、孝义、隐逸、侨寓、方技、仙释、贞烈、艺文上中下、丛谭等26门类。此志修之于清开国之初，又必须进呈朝廷御览，故编纂认真，为适应朝廷需要，尤于食货、武备门类考订详确。
清康熙五十四年(1715年)，颍州退休乡官，原河南巡抚鹿佑，有感颍州已60余年没有修志，乃与同里缙绅商定搜辑遗闻，嘱其门生王锡编纂《颍州志》，一年后修成，知州张钫作序。康熙五十五年命工开雕印刷。全志20卷，设舆地疆域、分野、沿革、形胜、山川、沟洫)、建置(城池、公署、里巷、村镇、营寨、铺舍、津梁、祠庙、牌坊、古迹(城邑、书院、堂亭、楼台、陵墓、寺观)、风俗、食货(户口、田赋、土贡、物产)、典礼(庆寿、秩祀、乡饮、乡村、冠婚、丧祭、冠服、晏会)、学校、军卫(卫官、卫治、卫军、卫地、卫籍)、封爵、职官、选举、(徵辟、进士、孝廉、贡士、荫封、武进士、武举人、应例)、名宦、流寓、人物(名贤、良吏、忠义、孝友、儒林、文苑、朗鉴、劳绩、逸民)、烈女、方术、仙释、艺文、灾祥、丛谭等20门类。此次是私人修志，其体例除承前志之制外，于风俗民情尤为留心，如乡饮、冠服之类，很具地方特色。
清乾隆十七年(1752年)、知府王剑福创修《颍州府志》。颍自雍正十三年升府以后，辖地扩大到一州(亳)五县(阜阳、太和、颍上、霍邱、蒙城)。王敛福收所属州、县志进行汇编整理，亲自执笔编纂。王是很有学识而又善于为政的地方官，他创修的颍州府首部府志(也是历史上唯一的一部颍州府志)，不仅网罗包举所辖各州县史料，而且内容很有创新，尤其在志书中稽考水利农田，可见其对民生的关注。《颍州府志》成书后，分巡凤庐颍六滁和观察使许松佶、安徽提刑按察使崔应玠、安徽督学双庆、提督军务张师载、安徽布政使司高晋等安徽军政要员均很重视并为之作序。这是颍州历次修志活动中规格最高的一次盛举。全志10卷，分舆地(沿革、疆城、分野、形胜、风俗)、建置(城池、公署、祠庙、寺观、里集、铺舍、桥渡、古迹、坟墓)、食货(丁口、田赋、积贮、盐法、蠲赈、惠志、物产)、学校(学官、书籍、祀典、书院、学租)、秩官(封爵、职官、卫制、营制)、名宦、选举(征辟、进士、举人、贡士、应例、武科、武职、恩荫)、人物(传、方技、仙释、流寓、烈女、艺文、杂志(祥异、兵革、辨误、纪闻)等门类。府志修成后，因新设置的阜阳县无志，乾隆二十年(1755年)县令潘世仁聘其友王麟徵为编纂，据颍州旧志体，增减十余门类，经六个月修成《阜阳县志》，知府胡格为之作序。
清道光四年(1824年)诏命编修安徽通志，因修省志需要各地资料，阜阳县趁便编纂了县志。这次修志规模较大，其特点有三：一是“设局经始”，成立了修志机构；二是当政者积极参与，刘文虎、李复庆、陶云、刘耀椿、周天爵五任知县先后主修，其中李复庆贡献最大，卸任后仍留在阜阳专事编纂县志。从事各项专职的有协修、监局、纂辑、参阅、采访、绘图、校字等人员40多名；三是资料丰富，洋洋大观。全书20万字，24卷，设舆地(沿革、道里、分野、山水、古迹)建置(城池、诸乡、祀地、官职、津梁、驿铺、寺观、坟墓)、食货(田赋、积贮、蠲赈、物产)、风俗(礼节、岁时)、学校(庙祀、学额、书籍、学田、义学)、武备(营额、奉饷、武械、操演、马政)、秩官(封爵、文秩、武秩)、选举(荐辟、文武进士、文武举人、贡生、杂进士、封荫)、宦业、人物(仕绩、孝友、忠节、文苑、义行、隐逸、方技、仙释、寓贤、孝妇、节孝、节妇、烈妇、贞女、烈女)、艺文、杂志等门类。各门类内容充实，广征博引，通贯性强。另有附图19幅，其中县境全图和四乡图5幅，水道图8幅，这是以前各志所不具备的。道光九年李复庆主纂《阜阳县志》成书，知府胡调元鉴定，知县周天爵作序。
自清道光九年(1829年)至民国24年(1935年)，阜阳地方志失修达106年。
1935年阜阳专员南岳峻动议修志，设立修志馆、并聘袁文田、喻汝谦主持馆务，1937年南调走，志未修成而抗战军兴。1938年阜阳遭日机轰炸，志书稿散失。阜阳修志工作拖了数年，1944年安徽省政府又拨给阜阳修志馆一笔经费，对修志馆进行改组，“延揽耆宿硕学”聘请阜阳知名人士邢采岑为修志馆长，宁治臣、宁元羲为副馆长，辛亥革命元老吕荫南为总编纂，又历时2年，于1945年底完成初稿。
此次修志，历时10年，阵容庞大。主修有专员南岳峻、邓明昊、县长廖麟、郭坚，此外还有编纂赵莲洲，李家骥等8人，文书事务员9人，专职采访16人，义务采访22人。此次修志，投放人力虽多，时间虽久，但由于县志失修百年，当时环境动乱不已，故成效不大，仅以《道光阜阳县志》作为前编，新修部分作为续编，石印刊出。其续编部分不足10万字。但该书毕竟保存了许多历史资料，且当抗日硝烟烽火之中，从事此项惠及百世的文化建设，殊为不易。
解放后，于1959年7月成立“阜阳县志编纂领导小组”和编委会，下设办公室，由在职干部和中小学教师30余人，数月之内完成阜阳县志初稿90万字，并打印成册。