清朝乾隆、嘉庆年间，铜陵盛产石灰。1949年以前，铜陵无正规建材生产企业，仅有个体石匠和窑户，以手工生产方式采石、雕凿石材、烧石灰和烧制青砖、小瓦。
1951年，铜陵矿山恢复建设，华东建筑公司铜官山工程处在解放东村、长江东村、扫把沟等处建起采石场、石灰窑、砖瓦窑。1952年底，由铜官山矿务局建筑工程队接办。1956年，铜陵地方建材工业开始有规模较小的合作化组织，当时砖瓦年产量约100万块，石料年产量约1.5万吨，石灰年产量约1600吨，其生产方式以手工为主。
随着铜陵工业和城市建设的发展，铜陵建材生产难以满足基本建设的需要，砖瓦有70%尚需外购。铜官山手工业联社于1956年开始扩大建材生产规模，先后在现石城路，扫把沟兴建砖瓦石灰厂和砖瓦厂，铜官山地方工业筹委会于1958年开始在仪凤岭一带兴建仪凤岭水泥厂。此时，铜陵建材工业起步，至“二五”计划末，全行业工业总产值达656.84万元，铜陵建材工业初具规模。但因设计粗糙、资金短缺，基建未达到预期效果。各企业产量低，亏损严重，仪凤岭水泥厂在1962年停建，建材工业一度低落。
1970年至1975年，仪凤岭水泥厂(改称东风水泥厂)复建，各厂矿和社队通过不同渠道筹集资金，建成三个小型水泥厂和一些小窑厂、小采石厂，这一阶段基建土法上马、因陋就简，建材工业产品种类少，布局不当，生产和销售均缺乏统一计划和管理、石料价格混乱、东风水泥厂年产量徘徊在万吨以内，连年亏损。铜陵建材工业发展缓慢。
1970年，铜山铜矿水泥厂(初名铜山铜矿水泥车间)筹建，1971年投产，形成年生产水泥8０００吨规模。1970年，铜陵有色金属公司水泥厂筹建，当年竣工。1972年改名为选厂水泥车间，1983年改为铜官山铜矿水泥厂。1975年，设计规模为年产粉煤灰水泥3.2万吨的铜陵市桂家湖水泥厂筹建，1977年竣工试产。
1976年2月，铜陵市建管公司成立(正县级、隶属市经委)，开始对全市地方建材工业实行统一管理。该公司对直属企业实行全面管理，对行业企业实行计划生产和统一销售管理，改变了铜陵建材工业管理混乱的局面。
1980年，铜陵建材工业再次起步。1981年国家确定了建材工业在国民经济建设中的先行地位，铜陵各水泥厂大规模改、扩建，轮窑厂纷起。水泥、砖瓦产量迅速提高，但由于企业管理薄弱，新办建材企业产品质量差、经济效益低，建材行业仍以传统产品为主，仅有水泥、砖瓦、石灰、石料等十几个品种。1982年10月，铜陵市成立“铜陵水泥厂前期工作领导小组”。1983年12月，经安徽省政府批准成立“安徽省铜陵水泥厂筹建处”，筹建年产规模为120万吨的水泥熟料厂。1985年12月国家计委批准该项目建议书。
1984年起，建管公司遵照国家建材局倡导的“大家办建材”的方针，对直属企业逐步下放企业管理权，对行业企业放开销售权，由以“人、财、物、产、供、销”为主要内容的微观管理，转向以统筹规划、提供信息技术、培训建材专业人员，开发新产品，质量监督”等为主要内容的宏观管理。各企业内部通过整顿，建立健全了管理制度，逐步走上正轨。全市建材工业得到进一步发展，产品品种增加到61个，产品产量、质量得到全面提高。1985年，建管公司对建材经销公司实行招标承包，对其他直属单位仍实行计划管理。“六五”计划间，全市建材行业共完成工业总产值9187万元，达到历史最高水平，比“四五”计划期间(1970年～1975年)产值增长１倍多。