当涂扼宁芜要冲，为江南通道，自古为兵家必争之地。历史上城关姑孰与滨江牛渚(今采石)俱为古代军事重镇，屡有营垒设置，重兵戍守。
东汉兴平元年(194)扬州刺史刘繇始置牛渚营屯兵。建安四年(199)，吴侯孙策以居巢长周瑜出屯牛渚；二十年，孙权又以奋勇校尉全琮屯牛渚，筑牛渚垒。
三国吴黄武元年(222)，孙权筑城姑孰(今当涂城关)。嘉禾元年(232)，全琮复屯牛渚。凤凰元年(272)，司徒何植为牛渚督。
晋太宁元年(323)，大将军王敦移镇姑孰，屯兵于湖(当涂县南)，自领扬州牧。咸和二年(327)，桓冲任豫州刺史，戍姑孰。咸康元年(335)，赵王石虎侵犯历阳(今和县)，司徒王导派将军刘仕救历阳，以赵裔屯慈湖，路永戍牛渚。永和三年(347)，安西将军谢尚为豫州刺史，戍牛渚。兴宁二年(364)，桓温自赭圻移镇姑孰，重修城垣；太和四年(369)，桓温复出姑孰，领兵5万攻前燕；六年，又以大司马出镇姑孰。宁康元年(373)，桓冲任中军将军、扬豫二州刺史，代掌兵权，镇兵姑孰。太元三年(378)，前秦苻坚派步骑7万寇淮阳、盱眙，以左将军毛虎生率众至姑孰设防。元兴元年(403)，桓元举兵出屯姑孰。同年，桓玄亦屯兵姑孰。
南朝宋元嘉二十七年(450)，魏主进兵瓜步(江苏六合东南)，建康震惧。领军将军刘遵考将兵分守津要，上接于湖，下至蔡州，陈舰列营，周亘江滨，自采石至暨阳(江苏江阴南)数百里。孝建元年(454)，南豫州刺史王玄谟于梁山江岸构筑偃月城。大明七年(463)，宋孝武帝校猎于姑孰，习水军于梁山。齐永明十一年(493)，宜都王鉴为南豫州刺史，镇姑孰。梁太清三年(549)，任约为南道行台，镇姑孰；遂安候陈灵洗为南丹阳郡太守，镇采石。陈永定元年(557)，戴僧钧为南丹阳郡太守，复镇采石。
唐乾元二年(759)，置采石军。建中元年(780)，罢宣歙团练使，复置采石军使，并将采石诸戍主统于都督府；二年，江南都团练使韩晃以卢复为采石军使，并增营垒，习长兵，铸兵器。元和五年(810)，又以河南尹房式为刺史，兼采石军使；六年，废采石军。
宋太平兴国二年(977)，太平州兵更名厢军，于姑孰城内设马军寨。熙宁三年(1070)，浚新河于采石矶后，南接夹河，分姑溪入江之势，行师运饷。建炎元年(1127)，李纲请修牛渚矶，上筑城堞；四年，太平州守郭伟在城西北隅造军器监二局，综甲仗数。绍兴元年(1131)，李纲奏请高宗于建康上游之江宁镇、采石、大信、芜湖、繁昌诸要隘屯兵积粟，并调发旁近乡兵协力守御；二年，又命沿江岸自当涂至褐山置烽火台；四年，金兵南侵，高宗复派刘光世、韩世忠、张俊分别在建康、扬州、当涂驻兵防守；八年，巨师古留兵3000屯太平州。乾道五年(1169)，各州设都统领兵，以刘光世屯太平州。嘉定十四年(1221)，采石镇驻御前水军5000人，听守臣节制。宝庆元年(1225)，江防制置使姚希得于采石置戍卒营房3000余间。
元至元十六年(1279)，郝经于采石置戍逻，控三江之襟要，窥两淮之腹心。二十七年，于太平路置镇守万户府，设兵马司，又立沿江行枢密院，调军马，增战船，习水军。至正十五年(1355)，朱元璋攻拔太平路，置太平兴国翼元帅府，自领元帅事。
明洪武年间(1368～1398)，效仿万户府制，置建阳卫。设指挥使5员、指挥佥事8员、正千户6员、千户21员、百户50员、所镇抚10员、总旗100名、小旗500名、兵士5000名，俱驻县城内。永乐年间(1403～1424)，在采石望夫山下设安家寨，屯兵镇守。崇祯年间(1628～1644)，设采石营，驻参将1员，设营兵汛守，并将采石下江口炮台移建上江口五通殿下。
清代，当涂兵防分陆防与江防。陆防属芜采营；江防先属游兵营，后属长江水师。
一、芜采营
清顺治二年(1645)，将明设之采石营并入建阳卫，专司屯运；另增设太平左右二营，属操江标。康熙十年(1671)，整并采石营，置总兵，旋改参将，复改游击，驻芜湖遥领采石，因名芜采营，分防当(涂)、芜(湖)、繁(昌)三县。于当涂设中军守备1员，统领马战兵、步战兵、守兵，共60名，分防塌桥汛、采石汛。采石另设外委把总1员、兵24名，分防丹阳、横山、博望、新市、长流嘴、小花津6汛；设乌溪把总1员、兵12名，专防官圩湖山村镇等汛；设黄池外委把总1员、兵27名，分防黄池、王家潭、大花津、镇香庵、塘沟、陈村坝、邢阳村7汛。光绪三十一年(1905)，全营防务废弛，遂被裁撤。其陆防由太平府城守营担任，守营计有兵丁2265人。
二、游兵营
清初，江防属操江标直管，设汛分守。康熙元年(1662)，设安徽省水师游兵营，分防和(县)、含(山)、芜(湖)、桐(城)、铜(陵)、繁(昌)、无(为)、当(涂)8县。在当涂设把总1员、兵26名，驻采石下江口左司公署，分防四褐山、东梁山、青草沟、采石上口、采石下口、鲫鱼洲、思贤港、和尚港等汛。雍正十二年(1734)，每汛设哨船1艘，作汛兵巡缉。不久船废巡停，江汛便有名无实。
三、长江水师
清同治四年(1865)，设长江水师，由彭玉麟任水师提督。提督署分设两处：上江设在岳州府，下江设在太平府。太平提督衙署于同治九年建成。提督半年驻岳州府，半年驻太平府，每年周历巡察，校阅营伍。长江水师在安徽设有提标中营，由副将统辖，驻当涂，兼管大通、安庆、芜湖、裕溪等营。该营额设左、中、右、前、后5哨38队，下设参将1员、都司2员、守备3员、千总12员、外委16员、总兵员624名。配备有督战船1艘、长龙船2艘、哨船40艘、官座船49艘，火炮131尊。另于城东南隅建火药局，分防四褐山至江宁铜井河口间的49公里江面。同治十一年李成谋继任水师提督，开始整顿长江水师，并在黄池、丹阳及当涂各汛地增设哨船1艘，在金柱关增加防兵，派驻长龙船1艘、哨船2艘。光绪二十七年(1901)，长江水师改练枪操；三十三年，添置战船100余艘；三十四年，撤岳州提督署，单设太平水师提督署，并置中军中营副将由安徽巡抚节制，分防金柱关以下至乌江江面；又于裕溪口设参将归属提标左营，分防金柱关以上至东、西梁山江面，兼防运漕、无为州及巢湖各汛地。
四、梁山炮台守军
清光绪十年(1884)，于东西梁山构筑炮台。炮台构筑坚固，自山麓至巅，以麻石砌成崇垣，外筑一道壕沟，森严壁垒。炮台以两座为一路，置副台官2员，下设教习、管旗、修匠、号目、炮目、炮兵等，由练防各军分兵驻守。十一年，郭善臣率“卓胜军”八营驻防炮台。十四年，安徽抚标良字练军左营分驻东、西梁山炮台。二十一年，良字右营移住西梁山，左营驻东梁山。是年三月，安徽省宪整顿各路防军，遣“精健军”后营驻梁山炮台。二十二年，精健军后营裁撤，调前营专守炮台。二十六年，精健军前营专守东梁山，以新募之武卫湘军驻防西梁山炮台。三十一年，东西梁山之精健、武卫两军改由长江水师提督帮统。三十三年，东梁山炮台经过修整，有炮楼2座、炮位12眼，配备各种钢炮、膛炮16尊。宣统元年(1909)，梁山炮台改归南路巡防统领节制，每台设哨官1员、哨书1名、号兵1名、正兵10名，旧有教习、管旗、修匠等一律裁撤。