芜湖建筑材料的砖瓦生产始于秦汉。东汉建安十七年（212），孙权重筑石头城（今南京）曾用芜湖烧制的古砖（有南京发掘的古砖镌字佐证），距今已有一千七百多年的历史。清光绪三十二年（1907），李鸿章之子李伯禽（经方）为其家族“李漱兰堂”在芜经营房地产之需要，从英国进口制砖瓦机，在四褐山置地建厂，兴办兴记砖瓦厂（今市新型建筑材料厂址），光绪末年建成投产。自此，芜湖的砖瓦生产始有机制，也是皖省之始。
民国时期，政局动荡，政府腐败，芜湖建材工业无发展。兴记砖瓦厂随着李伯禽在北洋军阀混战时离芜而同时倒闭。芜湖市区建设所需的建筑材料多靠进口和外地运进。解放前夕，仅有个体手工业者在市郊的四矾、四褐山等地，季节性地以土窑进行焙烧砖瓦，产品自产自销。
芜湖解放后，随着国民经济的发展，建设规模的扩大，建材生产在政府的重视下得到了恢复与发展。1950年7月，在四褐山原兴记砖瓦厂的废墟上首建芜湖市公营四褐窑厂，是年9月试产，次年二季度正式投产。年产手工坯红砖305万块，红平瓦39万片，产值9.82万元。继之在1954年组建了采石社、石灰厂，进行石灰、石料生产。
1958年8月，为办钢铁，砖瓦厂更名“大有焦化厂”，转产炼铁、炼焦 、选煤，停止红砖生产。同年，兴建芜湖县白马山水泥厂（今为安徽省白马山水泥厂立窑车间），于同年11月，用土法烧出低标号水泥。自此，始有自产水泥。1959年11月，更名为：芜湖长江水泥厂。芜湖市建筑公司于1958年8月，选址在四褐山，兴建年产3.2万吨400号水泥的立窑1座，定名“芜湖市水泥厂”，次年投产。1959年4月，上海海运局与繁昌县合资，在荻港兴建海繁水泥厂（今市荻港水泥厂址），同年投产。58年筹建年产60万吨水泥的安徽省白马山水泥厂。1961年在国民经济调整中，白马山水泥厂于次年元月停建；长江、海繁、芜湖市等水泥厂分别于同年、次年停产；大有焦化厂，更名为“芜湖市砖瓦厂”，复产制砖。
1964年，建材工业始有回升，得以发展。是年，先后接管了安徽省公安厅劳改局管辖的新生窑厂1、2号轮窑。同年10月，芜湖长江水泥厂恢复生产。1970年8月，市政公司以涵管车间为基础，建成芜湖市水泥厂并投产。1971年10月，原属芜湖地区管辖的荻港水泥厂在原海繁水泥厂的旧址建成，并试产成功，批量投产（该厂于1983年12月划归芜湖市建材局管辖）。
芜湖市建材工业经过国民经济调整，逐步向多品种发展。1968年，安徽省芜湖混凝土制品厂建成，始产水泥农船、趸船、桁条、通讯及电力电杆、涵管等产品。1973年，将制船生产划出，移地另建水泥制船厂，专产多品种水泥船。1970年，新增玻璃纤维建材生产，始产玻璃纤维短棉，1974年能产玻璃纤维纱、布，到1975年扩产到玻璃钢制品，形成一体化的玻璃钢工业基地。1972年始产硅酸盐建筑砌块。1979年，在市5家建材厂的共同努力下，利用水泥制品加工能力和粉煤灰砌块的长处，生产出框架轻板新型建材，并形成年产1万平方米的简易生产线。同年，以此砌块在市团结路，兴建2幢试验楼，为省首建，得到好评，但因种种原因，未能广泛推广。同时，另一条年设计能力为7500立方米以粉煤灰为主要原料的加气混凝土轻质建材和粉煤灰粘土砖生产线建成投产。1981年底，国家重点投资兴建的安徽省白马山水泥厂（原系省属中型企业，1985年3月划归芜湖市建材工业公司管辖）第一期工程建成投产。1985年，年产10万平方米彩色釉面砖、建筑涂料、砖瓦机械等多品种新型建材投人生产。
中共十一届三中全会后，为加快建材工业的发展，1978年成立芜湖市建筑材料工业局。1984年改为建材工业公司。从此，建材工业形成独立体系，拥有水泥、水泥制品、砖瓦、石灰、石料、玻璃钢、砖瓦机械等7大行业。1985年，企业由1980年的6个发展到20个（其中全民、集体10个，新办集体10个），职工6856人，固定资产原值1.2041亿元。企业占地面积147.0492万平方米。产品发展到20多类100多个品种，完成工业总产值4453万元，实现利税1027.78万元，上交利税469.52万元。同时，全市人均水泥达410公斤，高于全省（110公斤）和全国（140公斤）的人均水平。芜湖市的建材工业，不仅是本市的重点行业之一，而且是本省建材生产的重要基地。