一、组织
民国时期，为防匪患，天长民间有一定规模的不脱产的群众自卫武装。抗日民主政权建立后，在建设脱产武装的同时，积极组织、改造、训练群众武装。民国29年(1940)4月，路东联防办事处颁布《自卫军组织大纲》，登记民枪，成立人民自卫军(民国31年后统称民兵)。县成立抗日自卫总队部，统一领导全县的武装力量。区设区队部，乡设大队部，每乡一个大队，每保一个小队。17—25岁的编为青年队；26—35岁编为壮年队，35—45岁编为自卫队。区乡再挑选一部分政治可靠、军事素质较好的组成模范队(亦称基干队)。区队40人左右，乡队10人左右，武器大部分集中于模范队，成为区乡的机动武装。亦是县脱产武装的后备力量。
边区、敌占区的民兵武装则是在对敌斗争中产生的。靠近护城桥日军据点的护大乡，因不堪日伪的骚扰和压榨，在抗捐税、建立盘查哨、冬防局的基础上成立了护大乡民兵中队。在对敌斗争中，这支武装迅速发展，出现了著名的护城桥下民兵三英雄：胡国章、郑连富、刘志祥。党组织和抗日民主政权还通过宣传民众，将日伪基层政权政变为“两面政权”，集中民枪，利用本地区传统的御匪保家的武装形式，建立民练和团防局，进而扩大为群众抗日武装。
民国30年，全县有自卫军4000余人，各种枪支1500余支，其中区乡模范队800余人，每人都配有枪支。民国32年是天高民兵大发展时期，年底，全县有基干民兵3240余人，普通民兵8100人，拥有各种枪支1700余支。
解放战争初期，共产党领导的主力部队北撤，民兵武装失去依托，停止活动。民国37年底民兵组织陆续恢复。
1952年中央人民政府颁布《中华人民共和国民兵组织暂行条例》，全县成立了108个乡中队，有民兵18840人。1955年《中华人民共和国兵役法》颁布后，全县青年进行预备役登记。1958年在“全民皆兵”、“大办民兵师”的号召下，全县成立钢铁、农业、水利3个民兵师，下辖32个团，761个连，共有民兵166512人，占全县总人口的45％。1959年，全县民兵合编为1个师、12个团。1962年6月，毛泽东发出民兵工作要做到“组织落实、政治落实、军事落实”的指示后，对民兵组织进行整顿和重新编组，将93430名民兵编为35个团，251个连，并采取“选班”、“选人”的方法，组建武装基干连。
1970年在基干民兵中组建1个民兵独立团，作为民兵的值勤部队，辖3个营、13个连，2369人。
1981年，根据中共中央指示，对民兵组织进行全面调整和改革，压缩年龄，缩小范围，减少数量，提高质量，取消师团建制。基干民兵调整为42个连，普通民兵编为342个营，女性不在编，民兵总数比调整前减少了55％。
为了加强对民兵工作的领导，1951年春，县、区成立人民武装部，县委书记兼县人武部政委，区委书记兼区武装部教导员。1953年成立县人民武装委员会，由县委书记和县人武部领导担任主任委员和副主任委员，县人民武装部为武委会的办事机构。1961年11月，各公社配备专职武装委员(次年2月改称人民武装部部长)。
二、训练
抗日战争时期，采取定期集中训练的方法，除政治教育外，军事训练的内容有刺杀、劈刀、埋地雷、投弹、射击等。为了提高民兵的实战经验，各区、乡经常选派模范队随主力部队参战。民国33年初，中共天高县委分5期对乡级民兵领导进行集中训练，其中两期训练指导员，两期训练中队长，1期训练民兵中队俱乐部主任，再由受训人员就地分散训练基层民兵。新四军第二师师长罗炳辉亲自编写《指挥员熟用手册》、《民兵战术》等军事教材供各级指挥员学习，并亲自培养1个学兵连带到各地进行刺杀、射击、投弹表演。民国33年9月，天高办事处在铜城市南郊大、小溪举行万人民兵大检阅，历时两天。天高民兵总队部组织各区、乡(镇)经过训练的民兵队伍和少年先锋队、儿童团参加检阅，进行了劈刀、刺杀、投弹、射击、埋地雷等比赛。结束时，罗炳辉师长给优胜单位和个人授奖，护大乡胡国章、郑连富、刘志祥被授予民兵英雄光荣称号。
建国后，民兵训练开始有计划、有组织地进行，训练课目逐渐增多，质量不断提高。
1951年至1958年，主要是训练民兵基层干部和基干民兵，每年训练时间在60小时以上，采取小型、就地、分散和适当集中的方法。训练内容有射击、刺杀、投弹、爆破、埋设地雷、单兵动作及班排连攻防战术。从1960年起，陆续增加雷达、通信、侦察、重机枪、高射机枪、六0炮、四0火箭筒等专业技术分队的训练。
“文化大革命”初期，民兵训练工作一度停止，1970年后恢复。1973年贯彻中国人民解放军总参谋部的《民兵训练纲要》，突出战备训练，每年以大队为单位集中训练一、二次。
1981年，根据本县农村实行生产责任制的特点，改进训练方法，缩小训练范围。改大队分散训练，为公社集中训练，两年为1个训练周期，每周期为30天，训练时间安排在冬季。受训民兵，凡考核合格者，发给“民兵训练合格证书”，作为预备兵员。1984年后，民兵训练对象主要是专业技术分队和未经训练的基干民兵，为保证训练质量，以县集中训练。在训练内容上，除军政课目外，还穿插进行科技培训。
三、参战
抗日战争期间，本县民兵在积极为主力部队运输物资，救护伤员，侦察敌情，破坏公路桥梁，空室清野以及维护治安等方面发挥了重要作用。基干民兵还配合主力部队反“扫荡”，拔除日伪据点，开展敌后游击战。
民国33年夏，石梁区300多名民兵与200余名下乡抢粮的日伪军激战一天，保卫了午收。
紧靠护城桥日伪据点的护大乡民兵，在民兵英雄胡国章的带领下，仅民国33年一年内，就同日伪军作战20余次，多次从敌人手中夺回被掳去的耕牛、粮食等物资，使日伪军不敢轻易出据点。靠近县城西门的西石大乡的民兵多次打击敌人，瓦解伪军，拔除据点，保障了西乡的安全。
四、支前
抗日战争和解放战争时期，本县民兵承担了繁重的支前任务。抗日战争时期，每村固定5付担架，每付担架5个人，随时跟随部队出发。
民国35年7月，国民党军队进攻淮南解放区，全县动员3000多名民工给部队运送粮草、弹药，救护伤员。
民国37年11月，为支援淮海战役，天高县两次组织近千付担架，5000余民工(其中绝大部多数是民兵)支前，运送粮食25万余公斤。12月成立炳辉县后勤司令部(后改称支前指挥部)，各区成立后勤大队部，并在铜城、汊涧、虞洼设立转运站。
民国38年元月，淮海战役胜利后，为迎接解放军南下渡江作战，支前指挥部动员民兵修复天扬公路、天盱公路63公里。动员90名船工为部队渡江服务。全县动员支前人员5749人，其中担架队3535人，担架627付；运输队1531人，运输工具1222件；区、乡干部330人；勤杂人员353人。3月20日，成立炳辉担架团、运输团，县长许彩文任担架团团长，县委副书记汤序朋任政委，将3535名民工和627付担架，编为7个营(内含1个运输营)。运输团1531人，编成3个营，赵玉书任团长兼政委。21日清晨，两个团从汊涧出发，参加解放上海的后勤运输工作。担架团分别配合二十五军、二十七军、三十军、三十一军、二0医院，运送弹药两万余公斤，护送伤员2372人。运输团共为三十四军和华支第二中心转运站运送大米25万公斤，麻袋1.2万条，其它物资约4万余公斤。两个团历时3个多月，出色地完成了支前任务。许多民兵在支前中立功受奖，其中有358人荣获人民功臣称号。县内还组织短期民工2600多人，抽调驴子294头，耕牛214头，运送大米170万公斤。
五、建国后的主要活动
建国后，民兵组织在反匪反霸、土地改革等运动中担负着站岗、护路、维护治安、保卫生产等任务，同时协助公安部门侦破案件、捕捉坏人、押送案犯。在1983、1984年打击刑事犯罪活动中，全县共出动民兵6345人次，协助公安部门抓获犯罪分子。农村实行农业生产责任制后，基层民兵广泛开展扶贫助耕活动，在劳力、畜力、技术和资金上帮助贫困户。截止1985年，全县基于民兵共组织助耕队2800多个，参加助耕的达3万余人次。此外，广大民兵在历次的防洪抢险、抗旱救灾、兴修水利、打击封建迷信活动、维护社会治安等方面作出了积极的贡献。在科学种田、勤劳致富中也取得可喜成就，许多民兵成为“专业户”、“文明家庭”。