1956年12月，铜官山市兵役局成立，属安庆军分区领导。1957年1月，中共铜官山市委成立民兵工作组。1958年7月铜官山市兵役局和铜陵县兵役局合并，成立铜官山兵役局。市兵役局辖铜官山，大通、顺安三个区人民武装部。9月，为响应毛泽东主席“大办民兵师”的号召，市区短期内组建一个民兵师，23个民兵团，142个民兵营，599个民兵连，民兵有112433名，占全市总人口的42.6%。11月，取消兵役局，改称人民武装部。7月，市委成立民兵工作领导小组。1961年9月，铜陵市人民武装直属省军区领导。1962年1月，市委民兵工作组改为人民武装委员会。1964年12月，铜陵市人民武装部易名为铜陵特区人民武装部。1966年6月，特区公安中队由特区人民武装部接收，列于军队序列。1967年5月4日，成立中国人民解放军安徽省铜陵特区军事管制委员会。1970年2月，增设向阳区，红星区人民武装部，营级单位。1971年1月，恢复铜陵市人民武装部名称。1974年1月15日，成立铜陵市民兵指挥部领导小组。铜官山区、狮子山区、郊区同时成立民兵指挥部。1975年3月，增设铜山区人民武装部，4月，铜陵县人民武装部划归市人民武装部领导。12月，市、县人民武装警察中队移交地方公安部门管理。1977年3月3日，市民兵指挥部撤销，基层单位武保分开，恢复人民武装部建制。1981年6月，郊区人民武装部改配现役干部。1983年5月，市人民武装部升格为师级单位。11月4日，铜官山区、狮子山区、铜山区、郊区人民武装部升格团级单位。1985年4月，铜陵市人民武装部改为铜陵军分区，高文伦任司令、赵玉苗任政委、陆香池任副司令、铜官山区、狮子山区、铜山区、郊区人民武装部和铜陵县人民武装部确定划归地方建制。