清朝末期，宿城设游击府。民国时期，宿县设有保安司令部，驻宿城。汪伪时期，宿县设有伪保安总队和警察局驻宿城，当时宿城为宿县第一区，设区队部。抗战胜利至解放前，宿县保安司令部驻宿城，当时城关区区署设区队部。
建国后，宿城市建立了人民武装部。初期，机构不健全，除部长外，仅配备两名干事。后增设了政工股和军事股。
1953年后宿县城关区（镇），均设有人武部，有部长1人，干事2～3人。
1979年10月，成立宿州市人民武装部，内设军事科、政工科、后勤科。
宿州市下属各街道办事处、郊区各公社（乡）均设有人武部。