为了搞好在各项工作中形成的档案材料的保管利用，1951年2月分别成立地委、专署档案室，各配备1—3名档案专职人员。同年，各县也在县委、县人民政府办公室内设立档案室，定编专职人员1—2名。
1956年1月，滁县、宿县两专区合并为蚌埠专区，原宿、滁两专区的档案均由中共蚌埠地委、蚌埠专署档案室保管利用。随着社会主义事业的发展，各单位形成的档案数量激增，查阅利用也更加频繁。为了维护档案的完整与安全，经地委、专署研究决定，于1958年9月成立蚌埠专区档案馆，集中统一管理专区级党政群各部门的档案材料，定编6人。同期，专区所辖各县也相继建立了档案馆，负责管理县委、县人民政府的文书档案，为进一步加强对档案工作的检查督促和业务指导，1959年11月设立地委、专署档案科，与档案馆合署办公，一个机构，两块牌子。档案科(馆)建立后，全区档案工作出现新气象，有了专项经费、库房、设备问题也初步得到解决。
1961年3月，蚌埠专区分为宿县、滁县两专区，档案馆也随之划分。1962年6月，恢复建立滁县专署档案科，继续行使档案事业管理机构职能。“文化大革命”开始后，由于受“批档案黑线”错误影响，从1966至1974年全区档案机构陷于瘫痪状态，大部份档案干部被改行或下放，给档案事业造成一定损失。
1975年后逐步恢复了档案馆工作，地、县档案干部由15人增至27人，并增加经费，添置了设备，档案工作逐步恢复正常。
为适应档案事业发展的需要，1980年地、县两级档案科均改档案局。地区档案局编制7人。1984年2月，局内分设业务指导、档案管理、编研三个科，定编12人。
档案馆的建筑设施，自1951年档案室成立后逐步改善。1964年地区在地委大院内建造了一栋建筑面积515平方米、造价28000元的两层档案楼；1985年12月又在原档案楼的北侧兴建了一座1948平方米，造价64万元的4层档案大楼，档案的保管、调阅、办公条件进一步改善。
各县、市档案馆在进入80年代后，馆库建设也有显著改观，自1984—1992年几年内，分别在各县、市委办公院内建立于档案楼，全区7家(定远除外)综合档案馆新库馆建筑面积合计为9508平方米，造价310万元。地、县各馆均分别添置了相应的设备，如橱柜、灭火机、吸尘器、去湿机、报警器、电脑、复印机、打字机等。