建国前，区、乡政权深入发动群众，建立乡村民兵组织，乡建民兵中队，村建民兵小队，多数不脱离生产，少数骨干和民兵干部随乡政权行动。
建国后，国家确定了野战军、地方部队和民兵三结合的武装体制。土改时期，各村建立民兵队，其中基干民兵配备武器，负责地方治安和反匪、反霸。1958年，毛泽东主席发出“大办民兵师”的号召，县境工农青壮年大部参加。1965年，县人民武装部成立后，在全县实行“普通民兵制”，90％以上的适龄青年参加民兵组织，人数发展到104917人。同时制定会议、汇报、出入转队、训练、武器保管等各项规章制度，贯彻三大任务，八项守则。按照国务院颁发的《民兵工作条例》，对全县民兵组织进行整顿，将身体健康的16～45岁男性公民和16～35岁的女性公民都编入民兵组织，其中男性16～30岁，女性16～25岁都编为基干民兵，其余的均编为普通民兵。编制本着便于领导，利于生产、生活，利于平时开展活动，战时快速动员的原则，实行公社建团、大队建营、生产队建排，机关、厂矿也分别建立连、排，班。
为了贯彻毛泽东主席关于民兵工作要做到组织落实、政治落实、军事落实的指示，县人武部每年冬春季节对全县民兵组织，进行一次整顿。
1969年，中苏在珍宝岛武装冲突后，为适应战备，县于1970年初组建了民兵独立团。1974年又组建民兵师。1975年，县成立民兵指挥部，负责领导和指挥县内民兵、治安、人防工作。1981年，按照中央（81）11号文件精神，对全县民兵组织进行了调整和改革，压缩了民兵年龄，缩小了范围，减少了人数。民兵年龄要求为18～35岁，比原来压缩了12岁，其中基干民兵男性为18～28岁，女性为18～23岁。经过整顿，全县民兵减至80621名，其中基干民兵11448名，编成47个连、503个排；普通民兵69173人，编成514个营、3425个排。根据规定，男性基干民兵服一类预备役，普通民兵服二类预备役。1984年，为加强后备力量的正规化建设，县组建了民兵步兵团。