古时，淮南地区使用独木舟、排筏做为水上运输工具，明朝中期淮河上已有木帆船行驶。清光绪三十三年（1907年）以后，分别从河南省、江苏省引进对梁划子和江苏官驳船。安徽巡抚冯氏上奏清政府工商部、外务部、邮传部批准，由正阳关商务总会出面，官商集资15万两白银购得两艘挖泥船和两艘长9米、宽2.1米、吃水0.9米、载客70人的小轮船，开始航行在淮南地区水域，这是淮南最早出现的机械化运输船只。民国23年（1934年），姚家湾富商姚明斋与他人合伙购买一艘“江苏号”轮船投入运营。民国27年日军侵占淮南后，淮南船舶以木帆船为最多，达40多艘，载重3000多吨，主要在田家庵装煤外运。
1955年1月，蚌埠民营新生轮船股份有限公司把淮南船舶组织起来设立分公司，开设了2条客运航线，12月5日公私合营，淮南港口143艘船舶全部加入了公私合营安徽省蚌埠轮船公司，船舶仍然在淮南参加运输。70年代，淮南船舶机械化程度大大提高。1978年底全市拥有各类船舶653艘30549.5载重吨，其中拖轮16艘、货轮7艘、挂机460艘、驳船120艘、木帆船50艘。1978年后乡镇企业投入航运，使船舶吨位发展迅速。1990年底除去原蚌埠轮船公司的船舶外，淮南地区（含凤台县）共有各类船舶1746艘12.02万载重吨，其中挂机1577艘、拖轮17艘、驳船146艘。