解放前，境内仅民间生产少量砖、瓦、石灰和石材自用或出售，城市建设所需建材从桐城、枞阳等县征调，或由商人从外地贩运。
解放后，市政府为解决居民就业和城市建设的需要，一方面开办国营建材工业，一方面鼓励城乡集体或个体兴办建材企业。1951年，于棋盘山建立首家国营建材企业市建筑材料厂；集贤关一带农民联合成立石灰厂和采石厂；公安局劳改科、建筑公司、房产公司等亦在北郊成立石灰厂或窑厂。1958年“大跃进”期间，全市建立10余个小土窑水泥厂。1959年，筹建市工业技术玻璃厂。均于短期停产。同年，出现多门轮窑。1962年国民经济调整，各建材企业相继停产。1963年市轮窑厂恢复生产，规模相应扩大。此后至70年代末，先后新建市石棉厂、市水泥预制构件厂、市化工原料厂、市水泥厂、市钢窗厂等建材企业，郊区社队及市属单位陆续兴办一些小型窑厂、水泥制品厂。这一时期，市政府没有统一的建材工业管理机构，只在城建主管部门设一生产科室，粗放管理，建材工业发展缓慢。
80年代，市政府把建材作为全市支柱产业之一，号召“大家办建材”。1980年成立市建材工业局，1981年成立市建材工业发展小组，全市尤其是郊区乡镇建材工业迅速发展。1988年，全市共有建材企业180个，其中，水泥企业9个，水泥制品企业49个，砖瓦厂48个，石灰厂8个，石棉制品厂、石棉布加工厂各1个，大理石厂、大理石工艺品厂各1个，油毡厂(场、所)19个，其他建材企业43个。建材工业局直属企业9个，乡镇企业128个，余为其他部门所属。全市建材工业按统计部门老口径标准统计的年工业总产值为5582万元(1980年不变价)。产品主要有水泥、砖瓦、石灰、大理石、水泥电杆、民房预制构件、石棉制品、轻质保温材料、建筑钙塑、油毡、纤维布、沙、石等14种。市郊五里墩至集贤关不到5公里的公路两侧，集中了市油毡厂、第二砖瓦厂、白水泥厂、建筑装饰材料厂、大理石厂、轻质保温材料厂、石灰厂、水泥厂及众多的水泥制品厂，架有建材专用供电线路，形成一条建材工业长廊。