港口形成以洛河古港为先。洛河口是扼制淮河上下游水上交通的关口，具有重要的军事地位。明清时期，洛河港逐渐发展成为淮河两岸和上下游州县商品交换的中转地。大通、九龙岗煤矿开发后，田家庵港口逐渐发展为煤炭外运的主要集散地。民国初，大通煤矿所产的煤炭经轻便小铁道运至田家庵码头装船外运。田家庵港口随着煤炭外运量的增加逐渐成为淮河上最大的煤炭外运港。新庄孜煤矿建成投产后，靠近新庄孜煤矿约2公里处的八公山港口于民国37年（1948年）投入煤炭装卸。到淮南解放前夕，淮南拥有3个港口、6座码头，可停靠150吨级船舶，有货场3000平方米，但港口设施十分简陋，除用小翻斗车装运煤炭外，货物装卸基本全靠人挑肩扛。1949年，淮南港口吞吐量为1.47万吨。
新中国成立后，国家先后投资30万元对上窑、田家庵老港进行疏浚，停靠条件和港口设施逐步得到改善，50年代末，田家庵港开始使用电动装卸机械。1959年港口吞吐量超过百万吨。随着淮南煤炭开发西移，煤炭产量的增加，平圩、洛河电厂兴建和市区经济的发展，港口码头建设速度也进一步加快。至1990年，全市有上窑、田家庵、潘集、八公山、谢家集、李嘴孜、二道河7个主要港口；码头23座，其中大件码头1座；泊位33个；1990年货物吞吐量115.6万吨。