解放初期，机构编制由人民政府统一管理。1949年4月建立淮南特别行政区政府，仅设有3科1室。同年7月，特区政府改为淮南矿区人民政府，内设4科1局1室。11月又将淮南矿区人民政府改为淮南矿区行政办事处，其内部机构设置为4局、5科1室。1950年9月淮南矿区行政办事处改为淮南市人民政府，定政府内部机构为6个科、2个局、1个秘书室、1个法院。1952年，市政府机构共有8个局、2个银行、5个直属公司及直属1场1店，总编制数2922人，其中企业1516人，事业539人。1953年起，随着各项事业的发展，市政府内设机构逐年扩大，编制数也在大量增加。1955年，市编制委员会成立，下设办公室，统一管理全市党政群机关、企事业单位的机构和编制。1956年底，市政府设有经济计划委员会、体育运动委员会、公安、民政、监察、工业、手工业、商业、粮食、财政、税务、农产品采购、劳动、建设、交通、教育、卫生等局，人事、文化、司法科，民族宗教事务处、市政府办公室及财粮贸、文教、资改办公室等25个机构，各系统工作人员（国营厂矿除外）的编制数为6405人，实有编制数为6342人。
1957年3月，整顿机构、精简编制工作开始，市编制委员会制定精简整编方案，核定全市的编制数为6214人，其中国家机关1336人。整编后，撤销和合并了市属的5个归口办公室、8个局（科、公司、部），各系统的内设机构和下属部门也大大减少，全市实有人数为6154人，其中国家机关1290人，财贸系统2279人，文教系统1437人，卫生系统343人，工交系统805人。至6月底，精简下放干部和勤杂人员569人，完成了预定的缩编任务。
1959年起，随着城市规模的扩大和城市人口的增加，全市的机构编制又逐渐增大。1959年，全市党政群机关机构编制数由1958年初的1731人增加到2689人，净增56%；机构数由1958年的42个增加到51个，增加了21%。1962年，随着国民经济的调整，再次进行了机构精简和缩编工作。1962～1963年，全市国家机关、党派、人民团体有655人经过精简整编被裁减。精简后，省确定淮南市1963年的编制数2158人（其中行政编制1846人，企事业编制312人），而实有人数2236人，仍超编78人，暂列编外。全民所有制企业和事业单位撤并了44个单位，市级党政机关也进行了调整，撤并了8个部门，新成立4个部门。与此同时，各单位的内设机构也相应地作了调整。1964年，省给淮南市国家机关行政编制为1846人。郊区分别划归凤台、怀远县后，划拨出行政编制159人。是年末实有人数1671人，缺编16人。1965年，又对党政机关、事业单位的机构进行了调整，撤销合并了21个单位，新增机构17个。
“文化大革命”期间，编制工作管理松弛。1977年，对全市机构编制进行了调整，增设市级机构2个，增加编制26人，区级机构34个，增加编制259人；增设科研所3个。同时，法院、各区公安分局增设了内部机构。为加强物价管理，市商业、交通、手管、供销社等4个主管部门增设了物价科。1980年，对市直机关机构编制实行严格控制，各单位均开始建立人员编制卡片，规定凡超编人员，银行不予开工资。同时，调整了司法部门的内设机构，增加编制384人。1981年，对行政机关编制实行一冻结、二调整、三整顿。撤销了6个临时机构，合并2个机构，增设2个机构，恢复1个机构。同时建立了编制管理制度，规定机关增加编制，必须经过市编办批准。
1983年，机构改革全面开始，本着精简和实际需要相结合的原则，完善和加强了经济综合协调部门、监督部门和立法执法部门，压缩了非经济管理部门。市直机关的机构设置由原来的72个减少到55个，减少了约21%；人员编制由原来的3960人减少到3356人，减少约15%。1984年，对35个单位的内设科室进行了调整。同年，市辖五区成立了劳动人事局。1986年，市辖五区编委及其办公室成立，并明确了职责范围。同时，对全市党政机关和事业单位实行了《编制管理卡片》登记制度，并建立了《党政群机关各单位内部科室变化情况登记簿》、《事业单位内部科室变化情况登记簿》、《全市编制与实有人数季报表》。同年，还将65个临时机构撤销44个，保留21个。1987年，建立了干部计划管理与机构编制、工资基金管理相互配合的编制控制体系。为了有效地控制机构编制和领导职数，暂行冻结了机构编制，禁止超限额配备领导职数，实行了《准调卡》和《人员编制管理簿》制度，规定满编单位确需调进技术（业务）骨干，必须按照“出一进一，先出后进”的原则办理。同时，开展了对全市540个事业单位以定机构性质、定机构级别、定隶属关系、定人员编制、定职责范围为主要内容的“五定”工作。1987年市直机关人员增长速度比上年下降9.1%，事业单位的人员增长比上年减少64人，科室领导与办事员的比例由上年的1∶2.4增加到1∶3.1；超编的党政群机关减少到16个，比上年减少5个。1988年，对全市事业单位实行了分类管理，即根据事业单位的经费来源情况，分为财政全额拨款、差额拨款和自收自支三种类别，制定了分级分类控制编制的管理办法。党政群机关行政编制数，省核定为3494人（不含公、检、法、司），实有3306人，缺编188人。1989年制定了提拔科以上干部的审批制度。根据党政分开、政企分开的原则，调整了市属部分机构。是年，未审批办理新增设县级机构的手续。1990年，开始对1987年以后未经编制部门批准，自行增设的副科级以上行政、事业机构和自行提高规格、增加人员编制、增加领导职数及滥设非领导职务的单位进行了检查清理。