明初，旌德县军机事务属黟婺按察事分司管辖。嘉靖三十四年(1555)属广德兵备道，万历四十二年(1614)属宁太兵备道，崇祯四年(1631)属徽宁兵备道。崇祯五年徽宁兵备道移驻旌德，道府旧址在今下东门内旌阳镇第一小学(旧街名“道府前”)，有官兵2000余人。清顺治初年，徽宁道迁往宣城，顺治三年(1646)又移驻旌德，直至康熙六年(1667)裁省。光绪四年(1878)属宁国营，宁国营派五品守备、七品把总、外委把总各1员驻守本县，另有外委1员分防三溪汛。
民国16年(1927)，县政府设置公安局，兼管军事。民国23年裁局改科，县政府三科分管军事。民国32年，县政府下设军事科，民国33年7月裁撤，军务并归县国民兵团兼办。翌年，国民兵团裁撤，又恢复政府军事科。
1949年4月，旌德县解放，5月成立“旌德县人民武装部”，属地方建制。1951年3月改为部队建制，称“中国人民解放军安徽省旌德县人民武装部”(正团级)，隶属徽州军分区。县人武部下设政治、军事两个股，编制8人。1950年2月，县属5个区成立区人民武装部，各配武装干部2～3人。1953年，“中共旌德县委人民武装委员会”成立，县委书记兼主任委员，县长和县人武部负责人兼副主任委员。各乡镇党组织也同时成立“乡(镇)人民武装委员会”，配备专职武装委员。1954年10月，成立“旌德县兵役局”，与县人民武装部并存，下设兵役科和民兵科，有现役军人22名。1958年5月，增设预备役训练科和组织动员科。
1956年4月，徽州、芜湖两专区合并，旌德人武部改隶于芜湖军分区。1959年1月，旌绩两县合并，旌德县人武部和兵役局并入绩溪县人武部和兵役局。1961年4月恢复旌德县，县人武部重归徽州军分区领导，编制21人。
1973年旌德县人武部编为丁等县人武部，设作战训练、组织动员、政治工作三科。1978年增设装备科。1981年升为乙等县人武部，下设政工、军事、后勤三科。1986年4月改编为二档县人武部，后勤科改称办公室，政工、军事仍为科。同年6月16日，县人武部改成地方建制，称“安徽省旌德县人民武装部”(副县级)，编制24人：干部15人，职工9人。
徽宁兵备道驻旌兵宪职官表

县人民武装部主要领导人名单