抗日战争时期，中共桐城地方党组织组建农抗会、妇抗会、青抗会等群众组织，开展抗日活动。解放战争时期，民兵组织正式建立。其中第二区(黄甲、挂镇一带)建立民兵中队5个，1100余人，配有短枪5支，马步枪120余支，以及手榴弹、大刀、长矛、土枪等。桐城解放时，全县43个乡建有民兵中队，有民兵3261人。1949年10月，全县有民兵4842人，配有民兵队长、副队长119人，指导员、副指导员43人。1952年，全县民兵人数增加至7786人，配备步、马枪1000余支。同年12月，根据中央军委《民兵组织暂行条例》规定，县成立民兵基干团，并对全县民兵组织进行整顿。1953年，实行普通民兵制，全县建立民兵乡队128个，中队部340个，有民兵2.93万人。其中基干团1个，有基干民兵5738人，配备步、马枪1396支，子弹5762发，手榴弹15枚。1957年5月，乡设基干民兵分队，各有基干民兵70至100人。其中长岭(现唐湾)、黄铺、金神、新安、古井、桐梓、陶冲、毛河8乡各配长枪10至15支，子弹50至75发；城关镇配枪100支，子弹1000发。1958年“大办民兵师”，全县40个公社、6所中学共建42个团，2075个营，有民兵22.15万人，其中基干民兵7.77万人，普通民兵14.38万人。翌年3月，全县民兵组织整顿为1个师、41个团、339个营、1046个连、4071个班，共18、89万人。1961年，根据《民兵工作条例》要求，公社建团，生产大队建营，小队建排；县直单位分别组建营、连、排。凡年龄16至45岁的男性公民，16至35岁的女性公民，身体健康者均编入民兵组织。其中年龄16至30岁男公民，16至25岁女公民，身体健壮者编入基干民兵组织。自1971年开始，规定普通民兵年龄为18至35周岁；基干民兵男性18至28周岁，女性18至23周岁。1981年，根据中央关于民兵组织调整改革会议精神，取消武装基干民兵组织名称，并规定退役士兵和经过军事训练的民兵以及选定当年参加军事训练的人员编为基干民兵。当年全县民兵人数由196128人减少到78946人，其中基干民兵由93347人减少到11366人。1987年底全县有民兵62178人，其中基干民兵5019人，专业技术兵1107人。
建国后，县人民武装部不断加强民兵的军事训练工作，每年在三、四季度用10至20天时间，培训大队民兵营长、中队长等民兵干部和技术骨干。基干民兵由公社(乡)人民武装部负责集训。1962至1965年，全县民兵开展军事大比武活动，其中石河、范岗民兵基干连在地区民兵军事大比武中，获射击优秀奖。“文化大革命”初期，全县民兵武器装备奉命上交，民兵训练停止。1974年，根据中国人民解放军总参谋部《1973—1975年民兵军事训练纲要》要求，开始恢复民兵训练。同年，安庆军分区对县棉布厂、滤清器厂及部分区、乡共38个单位基干民兵连进行战备训练检查。1978年始，执行新的民兵工作条例，民兵训练时间每年18天，主要有通讯，火炮、四○火箭筒、侦察等多种项目的综合训练。1984年，根据中央军委关于民兵训练的要求，调整民兵训练任务和参训人数，全县参加训练的民兵由1980年8380人减少到2000人，翌年再次减少到900人。至1985年底，全县共训陈基干民兵6.3万人次。1986年始，改过去以乡为单位为以县为单位集中训练，训练质量明显提高。1987年，全县民兵训练合格率达95％。
民兵在革命和建设中发挥了重要作用。民国36年10月，中共桐城县委在黄甲首次进行土地改革，当地民兵配合土改工作队宣传土改政策，保卫土改果实，保证了土改工作顺利进行。次年12月，黄甲民兵配合人民解放军第二野战军三纵八旅，攻打国民党自卫队，毙敌20余人，俘敌19人，摧毁敌堡一座。在渡江战役中，全县组成1500人以民兵为主体的随军担架团，历时月余，行程千里，出色地完成支前任务。建国后，民兵结合军事训练，积极参加剿匪、反霸、土地改革、抗美援朝、防洪抢险、打击刑事犯罪等中心工作。50年代初，配合剿匪部队和公安部门，先后共歼灭、捕获匪特815人。1958年，龙头、大关、大塘、中义、长岭等乡还设立对空瞭望哨，由民兵日夜值班。全县各乡基干民兵均组成反空降小组。1959年后，牯牛背、境主庙、双龙、汪洋、小关、陶冲等水库及鲁谼堰、练潭大桥、枞阳船闸等均由当地民兵守卫。在历次防洪抢险中，民兵均战斗在第一线。1980年以来，民兵成为农村中生产骨干，脱贫致富能手。至1987年，全县民兵组成688个扶贫助耕小组，大忙季节上门为烈军属收割庄稼，翻耕土地，先后帮助200多户贫困户脱贫。
建国以来，桐城县先后召开民兵代表大会5届。表彰先进集体225个，先进个人693人，选举出席省军区民兵代表25人。1952年国庆节，石河乡民兵吴来清作为地区民兵模范赴京，为检阅方队成员，接受党和国家领导人检阅。1958年，全县有11人被评为省民兵模范，1人被评为南京军区民兵模范。1960年4月，民兵积极分子吴来清、徐文奎、汪家传、彭绍权4人出席在北京召开的全国民兵代表大会，中央军委奖给每人“五六”式半自动步枪1支，子弹100发。吴来清还应邀到中南海与毛泽东、朱德、周恩来等党和国家领导人合影留念。1983年在抗洪抢险中，涌现了大批先进人物，受到各级政府的表彰，其中被县政府、县人武部命名为先进集体的民兵基干连14个；白马乡、晴岚乡武装部长黄文祥、朱金国和白马乡塘冲村民兵营长占质礼均荣获三等功。1984年，范圩乡姜圩村民兵营长王大明受到省政府表彰。