西周时当涂属吴国。春秋战国先后为越、楚属地。
秦始皇二十六年(前221)，推行郡县制，置丹阳县(治今当涂丹阳镇)，属会稽郡。秦末或楚汉之际改属鄣郡。
西汉高祖六年(前201)，以淮南50县置荆国，丹阳县属之。十年(前197)，易荆国为吴国。景帝三年(前154)改吴国为江都国，丹阳县先后属吴国、江都国。武帝元朔元年(前128)，析江都国置丹阳、秣稜、湖熟等侯国，丹阳县属丹阳国。元封二年(前109)，国除，隶丹阳郡。五年(前106)，置十三州刺史部，丹阳郡隶扬州刺史部。
新莽天凤元年(14)，并丹阳、秣稜二郡置宜亭郡，更始元年(23)复为旧制。
东汉建武六年(30)，丹阳郡移治宛陵(今宣州)，丹阳县属之，仍隶扬州。建安三年(198)，孙策封吴侯，丹阳郡为吴领地。
西晋太康二年(281)，分丹阳县为二，置于湖县(今当涂城东南38里处)。
东晋咸和四年(329)，江淮间战乱，民多南渡。于江南侨立当涂县及淮南郡，以置流民。当涂县置名源于古涂山氏国，《尚书·益稷篇》有禹取涂山氏女的记载。后国除为县。县名取地处临淮涂山之意。义熙九年(413)，割丹阳郡于湖县属淮南郡，分于湖县南为当涂境(今宣城、南陵有其地，但非今县幅员)。至是，侨置淮南郡，当涂县始有实土。
南朝宋、齐、梁、陈间，丹阳县属丹阳郡，于湖县属淮南郡。