淮南冶金工业始于1958年，时由煤矿机械厂筹建钢铁厂，建有28立方米、13立方米、2.4立方米小高炉各2座，3吨空气侧吹转炉2座，直径250毫米轧机机组1套，焦炉1座，固定资产650万元。1961年7月在国民经济调整中下马。1969年，煤矿机械厂重建钢铁分厂，在全市10余家工厂的大力支援下，1970年6月11日1号高炉（50立方米）出铁，同年开始轧钢生产，1971年5月7日转炉出钢。到1973年共生产生铁57028吨，钢锭1825吨，钢材1981吨。此后，由于受到“批林批孔”运动冲击，转炉和1号高炉相继停产。仅在建的2号高炉于1974年10月1日建成投产，当年只完成年生产计划的62.7%，基本建设也陷于停滞。1975年钢铁分厂划归市管，更名淮南钢铁厂。市成立钢铁会战指挥部，组织有关单位参加钢铁会战，先后扩建了直径250毫米×5轧机1套；新建了设备比较齐全的机修车间；基本上完成了炼钢车间和轧钢车间的前期收尾工程。1号高炉经大修改造后于1976年5月恢复生产，当年生铁突破2万吨、出钢4009吨、轧材4657吨，同时开发了锰铁和16锰螺纹钢2种新产品，其中锰铁生产填补了省冶金工业的空白。
1978年，筹建铸铁管和钢门、窗车间，1979年3月铸管车间建成投产，8月钢门、窗车间建成投产。当年对轧钢车间进行设备改造，使之具备轧制钢窗材、角钢等异型钢材的能力。同期直径400毫米轧机车间开始筹建，并对高炉冶炼辅助设施和6千伏供电系统进行了针对性改造。到1982年底，钢铁厂已拥有固定资产原值2132.3万元，职工2737人。但由于资金不足、原料短缺、产品积压等困难，基本建设全面压缩，侧吹空气转炉炼钢于1981年7月关停。
为了更好地为煤矿服务，1983～1990年，煤炭部先后向钢铁厂下拨基本建设资金330万元、专项技改贷款1150万元，加上自筹资金的投入，生产规模得以扩大，企业的综合实力增强。1983年直径400毫米轧钢车间建成；1985年7月线材车间建成投产；1987年6月电炉炼钢车间建成投产；同期引进具有国内80年代先进水平的GY-3型短应力轧机成套设备，代替原直径250毫米轧机机组精轧机架；1990年10月8日，1号高炉改扩建成功（主体由50立方米改造为75立方米），点火运行；与此同时，供电系统的改造工程同步进行。
截至1990年，淮南煤矿钢铁厂有炼铁、炼钢、型钢、线材、铸铁管及钢门窗等7个主要生产单位。全厂拥有固定资产原值5251.2万元，其中生产性固定资产原值3296.9万元，年生产能力为生铁6万吨、钢锭2万吨、钢材7万吨、铸铁管1.5万吨、钢门窗15万平米。