《淮南市志》编纂工作始于1984年，历经建立组织、宣传发动、培训骨干、拟定编目、征集资料、实施编纂等阶段，至1997年7月，市志成稿，12月召开评稿会，1998年6月修改定稿，经省地方志编纂委员会审定后出版。
1983年底，胡树屏同志出席全省地市志办主任会议之后，奉命筹建市地方志办公室。1984年4月成立市地方志办公室，开始选调干部，并着手拟定《淮南市志》大纲。当年9月，胡树屏由督导员改任市志办副主任。11月，市地方志编纂委员会成立，市委常委、常务副市长李建中任主任，市政府秘书长丁朝群任副主任，许志云任专职副主任。1985年1月8日，市地方志编纂委员会召开第一次会议，市委书记王乐平、市长宋长汉与会。会上原则通过了市志办起草的《〈淮南市志〉大纲》、《淮南市地方志工作规划》，全市修志工作正式启动。
淮南市是一座新兴工矿城市，建市时间短，本次为第一次修志。为了得到社会各界的广泛支持，全市上下开展了大张旗鼓的宣传发动工作。1985年1月，中共淮南市委、市人民政府以“淮发［1985］3号”文件批转了《〈淮南市志〉大纲》、《淮南市地方志工作规划》，要求全市上下通力协作、精心修志、造福淮南。随即，市人民政府发布了《关于征集淮南市地方志资料的通告》，市地方志办公室创办了《淮南市志通讯》（后更名《淮南方志》），作为宣传舆论阵地，市委书记王乐平为刊物题词：“盛世修志，造福淮南”，市政协主席高曙等同志积极撰文，对修志工作予以提倡和支持，全市上下营造出了浓厚的修志气氛。1985年4月，市地方志编纂委员会举行扩大会议，要求全市各单位建立机构，确定人员，开始修志工作。5月，全市第一次地方志工作会议召开，进一步部署了修志任务，修志工作由鲜为人知逐步为全市所了解。在这一过程中，许志云、胡树屏同志筚路褴缕，付出了艰辛努力。1985年6月，市志各专志及区镇村志主编会议召开，采取以会代训的形式，组织全市各单位参加修志工作的同志进行业务学习，在此后的半年多时间里，全市举办了十数次不同规模的业务培训班，各系统、各单位组建基层修志机构120余家，形成了数百人的修志队伍，掀起“盛世修志”的热潮。
与此同时，市志各专志的编目拟定工作全面展开。为了制订出符合淮南实际，反映市情特点的市志编目，市志办多次召集部分专志主编进行座谈，用系统科学的观点指导城市志的编纂。1986年7月，中国地方志指导小组城市志指导组在鞍山召开全国城市志编纂研讨会，淮南作为全国13个“较大的市”之一应邀与会，并提交了《工矿城市的特点与工矿城市志》等2篇论文。此后，一批有见地的修志论文先后在国家级、省级刊物上发表，引导全市修志工作逐步深入。
市志的编纂经历了一个曲折的发展过程。1986年1月，市第二次地方志工作会议召开，为确保进度和质量，提出实行各级领导承包责任制的方案，全市各单位积极响应，分赴南京国家二档、省、市档案馆以及各系统档案资料室搜集资料，煤炭、电力系统起步早、进展快，在全市起到了示范作用。经过积极的资料准备，9月，市第三次主编会议召开，研究讨论并通过了《〈淮南市志〉编纂工作具体规定》和《关于转入志稿编写阶段的几条规定》，之后，部分资料齐备的单位开始了志稿的试写，为正式编纂做好了准备。
1987年1月，顾明清调任市地方志办公室主任，胡树屏改任《淮南市志》总编辑，围绕加快进度、确保质量这一中心，在抓试写的同时，批准部分单位正式转入编写阶段。但是，从1987年下半年起部分专志的编纂工作出现停滞。1988年3月，市政府以“淮府［1988］9号”文发出《关于加强地方志编纂工作的通知》，也未能收到预期效果，各专志编纂进度拉开距离。1988年8月，市地方志第三次工作会议召开，通过了《淮南市志》总体设计方案，市志基本框架正式形成。鉴于市志编纂一时难以完成，市志下限由1985年顺延至1987年底。至年底，部分专志陆续成稿。
1989年9月，丁锦春调任市地方志编纂委员会专职副主任，主持市志编纂工作。12月，提出《关于切实加强市志编纂工作的意见》，由市委、市政府办公室联合发文批转全市。1990年6月，市第四次地方志工作会议召开，宋长汉市长向全市专志承编单位签发了“编纂任务书”，此后全市修志工作取得新进展，又有一批专志陆续成稿。
1991年8月，戴锡礼调任市志办公室副主任，协助丁锦春同志工作。为了更为充分地反映改革开放的成就，1992年，市志下限再度顺延到1990年。1993年6月，市地方志编纂委员会改组，市长李振华任主任，副市长白泰平等任副主任，丁锦春任专职副主任，主持工作。4月，全省地方志第五次会议在淮南召开，推动了市志的编纂工作。由于各专志进度悬殊，为了不使修志成果束之高阁，市志办拟订了《淮南市志》分卷出版计划，全书共分6卷，分别为：卷一（综合卷）、卷二（政治卷）、卷三（能源工业卷）、卷四（工业交通卷）、卷五（农贸财金卷）、卷六（文化卷）。并开始着手实施卷三的合成工作。
1995年7月，市地方志办公室机构调整，戴锡礼任办公室主任，李长凤、姚尚书为副主任，姚尚书兼任市志副总编。在编委会的领导下，明确了集体领导，分工负责的岗位责任制，办公室主任戴锡礼全面负责；副主任李长凤负责行政；副主任兼副总编姚尚书负责业务，充分协调配合。市志编纂工作迅速走上正轨，当年11月，市志卷三即总纂完成，12月提交全省评议，市志编纂工作实现实质性跨越。
卷三评稿之后，市委、市政府对修志工作给予了极大的支持和关注。1996年1月4日，分管市长白泰平即到市志办研究调整工作部署，决定取消分卷合成计划，确定了整体推进，一卷成书的目标。4月，市委对地方志编纂委员会再一次作出调整，进一步加强了对地方志编纂工作的领导。5月5日，李振华市长主持召开市地方志编纂委员会第七次会议，通过了调整后的市志编目，决定采取编委负责制和专志承编责任制。7月，市政府向各专志承编单位下达“编纂责任书”，要求一把手挂帅，分管领导负责，限期完成各自承编任务。白泰平副市长多次听取市志办的工作汇报，及时帮助解决工作中的问题，全市修志工作步调一致。7月30日，全市第四次主编会议召开，会上结合《淮南市志》的修订编目对编纂问题做了说明，并进一步明确了编纂要求。修志工作经过长时间的沉寂之后，重新掀起高潮。此后，各专志承编单位纷纷采取得力措施，选定主编或编辑人员，积极搜集资料，组织编写，按期完成任务。
根据修志工作的新形势，市志编纂工作进入更加紧张的状态。首先，在集体领导、分工明确的基础上，办公室全体同志明确了岗位分工，编辑工作责任到人，卷首至第十二篇由姚尚书负责；第十三篇至第二十三篇由方明负责；第二十四篇至第三十三篇由马莉莉负责；第三十四篇至第四十二篇由陈文负责，业务指导和分纂负责到底。熊晓昀负责志稿的录入及部分编辑工作，刘群星承担了部分专志及《人物》和《1991～1997年大事纪略》的编辑工作，后期调入的田龙梅参与了志稿的录入和校对工作。李长凤除协助主任做好行政工作外，还与王佩芝、王林一起承担了大量的后勤服务工作。第二，采取倒计时工作法，半月一次调度会，进度指标张榜公布。办公室主任戴锡礼直接掌握各分纂人的工作进展情况，并出面解决疑难问题。第三，定期编印简报，沟通信息，反映编纂进度。市志办还采取“走出去，请进来”的方式，举办10余次小型业务培训班，及时解答编纂中遇到的问题，到1996年底，全市80%以上的承编单位按要求完成了初稿，其余部分也于1997年一季度完成。1997年1～8月，是紧张的分纂阶段，负责分纂的同志克服种种困难，加班加点，全力冲刺。办公室逐月召开调度会，及时掌握工作进度，解决工作中的问题。从9月份开始，志稿进入总纂合成阶段。总纂工作由姚尚书、方明两人分别执笔，10月中旬完成。12月16～18日，《淮南市志》召开评稿会，省志办领导、省地方志学会的专家以及兄弟地市县的修志同行云集淮南，对志稿进行逐卷逐编的评议，一致认为，《淮南市志》成稿质量较高，是一部特色鲜明的城市志。根据会议提出的评议意见，市志办制定了修改方案，报经省地方志办公室和市地方志编纂委员会同意后实施。为了增强市志的信息量和对近年来全市所发生的大事要事的记述需要，新增了《1991～1997年大事纪略》和《县区纪略》内容。1998年1月，市志总纂班子组成，在办公室主任戴锡礼的领导协调下，由市志副总编姚尚书任执行总纂，助理调研员、市志科长方明为执行副总纂，陈文、马莉莉为成员，其他编辑配合，开始了更为紧张的总纂冲刺。至5月底，志稿经过两遍统稿后初步定稿，6月15日打印出送审稿，送省志办终审。
在市志编纂过程中，省志编委会和省志办的吕秋山、王亚洲、徐则浩、王鹤鸣、汪世明、崔厚贤、邓国宝、荣华堂等领导同志给予我们以极大的关怀和指导。历届市委、市政府对修志工作给予了高度重视和支持，提供了大量的人力、物力。在市志编纂的冲刺阶段，1997年5月7日市政府第84次常务会议听取了市志工作汇报，对改善修志工作条件作出决定，极大地鼓舞了全体同志的工作热情。1998年3月30日晚，市长杨爱光主持召开了市志编委主任会议，听取并批准了市志修改方案，还就志书出版事宜作出安排。同年4月，市委下文调整了市志编委会，加强了领导，确保了市志的顺利出版。6月30日,市志由省志办完成终审，副市长汪建国、市委秘书长殷光临以及省志办邓国宝、荣华堂副主任共同主持仪式通过，交付出版社出版。