解放前，九龙岗、大通、田家庵三镇，只有为数不多的配匠（茅匠）、木匠、油漆匠等，从事一些简易的民房建筑，没有统一的组织，工完人散，未形成独立的行业。淮南解放初，流动分散的建筑工人修建一些民房和教堂，但多为砖墙草顶结构。
1951年6月31日组建市新淮营造厂，市辖各区分别成立建筑队（社），淮南建筑业初步形成。1953年4月，经市人民政府批准，市新淮营造厂改为市建筑工程公司，各区建筑队伍由分散逐步统一，初步形成一定的规模。
1959～1966年，全市建筑业在曲折中发展。“大跃进”时期，建筑业主要围绕“快速施工”展开，重结构轻装饰，重开工轻收尾，竣工期延长，有的工程比第一个五年计划期间竣工期延长2倍左右。这个时期，“左”的错误对建筑业冲击很大，基本建设高指标，造成人、财、物全面紧张，建筑队伍大增大减；废除全行业的计件工资制，以行政命令指挥生产，破坏了责任制；取消建筑企业的法定利润，生产大幅度下降。同时也取得一些成功的经验，快速建成一批工业厂房，学会筑炉、烟囱等砌筑技术和一些先进的施工方法。50年代末，建筑业出现了声势浩大的改良工具热潮，水平运输车子化、垂直运输机械化的技术革新活动，促进了劳动生产率的提高，减轻了工人的劳动强度。1962年初，遵照中央“调整、巩固、充实、提高”的方针，恢复一些行之有效的制度。1963年重新推行计件工资制，贯彻国家新的《建筑安装工程劳动定额》，招收一批人员，促进了生产。1964年市建筑公司全员劳动生产率恢复到人均3748元，居全省第一，达全国平均水平。
“文化大革命”期间，行业管理陷于停顿。在调整时期建立起来的制度、办法，统统被作“管、卡、压”进行批判、废除，企业管理陷入瘫痪。但在加强三线建设和工业、城市建设以及支援第三世界方面，仍取得一定的进展，先后派往坦桑尼亚、阿尔及利亚等国经援人员20余名，得到受援国的好评。
1978年6月成立市建筑工程局，对全市建筑业进行全面整顿，以创全优促企业管理，推动各项管理工作的改善。1980年国家恢复国营企业2.5%的法定利润和3%技术装备费后，在国有企业推行工资系数包干，经济承包责任制，联产计酬等制度，建筑企业发生很大变化，市建筑公司一举扭转连续13年亏损的局面。1978～1982年共完成工作量6136.45万元，各类建筑竣工面积达42.5万平方米，全员劳动生产率达43000元／人年。市建筑二公司在此期间完成产值近3000万元，盈利30万元，上交税金64.8万元。建筑职工队伍得到健康发展，地方国营建筑企业职工人数达5300余人，城镇集体建筑企业（不含矿务局集体企业）职工人数超过地方国营企业人数的一倍以上，乡镇集体企业发展迅猛，从业人数近万人。
1983年以后，全市建筑业进入从计划经济向社会主义市场经济转变的全面改革时期，对建筑安装企业简政放权，强化基层，实行“一揽子”总承包，分灶吃饭，企业的分配制度得到改革，劳动生产率提高。其间乡镇建筑队伍发展很快，从1万多人发展到3万余人。1985年4月成立市建筑管理处，统一管理建筑队伍（含外地进淮队伍和乡镇队伍），统一管理和监督工程质量，统一管理和审批工程承包合同，统一培训建筑企业技术业务人员，统一审定工程造价，统一贯彻落实国家和省有关技术政策、规范、标准和规定。同时相继成立市标准定额站、招投标办公室，对推动建筑业的发展起到很大作用，全员劳动生产率不断提高。1986～1990年工程合格率由12.6%提高到51%；安全生产得到改善。