一、清代地方武装
1、团练
咸丰三年(1853年)，为防剿太平军、捻军，颍州、亳州、蒙城、太和、颍上县均设团练，由州、府、县豪绅操纵。团有团总，堡有练总，乡勇无定额，平时分散各自劳动生产，夜晚放哨，闻警集合，就食于乡里。武器有长予、大刀、竹镖、弓箭，还有土炮。
2、淮北革命军
宣统三年(1911年)创建，由同盟会会员程恩普(稚周)采用招募办法，建淮北革命军。公推程恩普为军统，宁隽元为副军统，吕济川为参谋长，参谋为吴殿元、陈子员，参议员刘示祥，统领宁少清，演说团长为程旭亭。
二、民国时期地方武装
1、警备营
民国2年(1913年)，阜阳县设团防营，县知事兼任团防营帮统。全县设两个营，辖1哨马队。共有军佐、士兵1101人，马34匹、钢枪821支，至民国4年(1915年)改团防营为警备营。同期，亳县设步兵营、涡阳设国防队(后改警备队)、太和设警备队、蒙城设团防总局(后改警备队)。
2、自卫团
民国17年(1928年)，阜阳设自卫团和清乡民团(简称民团)。民团司令兼自卫团总司令。共有2个游击大队、15个总队、9个独立队、1个骑兵队、1个迫击炮队。共5125人，枪4069支、马48匹，迫击炮2门。亳县设民团司令部，县成立县中队，外人称“八大队”。蒙城设县警察大队，至民国21年(1932年)，改称保安大队。民国12年(1923年)涡阳设自卫团，由警备队改建，共390人。民国18年(1929年)，国民党省政府合并涡蒙亳3县地方武装，改名自卫团，归省指挥，旋撤销归县。
3、保安团
民国20年(1931年)，涡阳改县人民自卫团为保安团，县长兼团长，计官兵200名。民国21年(1932年)改保安团为保安队。民国22年(1933年)，阜阳县人民自卫团改为阜阳县保卫团，县长兼总团长，全团官兵2822人，同年10月，保卫团改编为保安总队。民国20年(1931年)，亳县设保卫团，民国21年(1932年)改编为保安预备队，旋又改为保安队，约400多人。民国21年(1932年)蒙城设保安大队，官兵317人。民国19年(1930年)太和设保卫团，民国21年(1932年)“四·一九”暴动后，改为保安大队。
4、壮丁队
民国22年(1933年)亳县设壮丁总队，县长任总队长，至民国24年(1935年)改为壮丁巡查队。民国24年(1935年)，涡阳设壮丁巡察队，官兵300人，枪124支。
5、国民兵团
民国26年(1937年)，涡阳、亳县、太和、阜阳县设国民兵团。
6、抗日自卫军
民国27年(1938年)春，阜阳地区成立阜阳人民抗日自卫军。由行政督察专员方钦(后为郭造勋)兼任指挥官，副指挥官为宁少清。自卫军的任务是发动群众，武装抗日，保卫家乡。各县均成立了人民抗日自卫军。6、7月间改组为安徽人民抗日自卫军第3、第5路军，每路军相当于师的编制。各路指挥部设指挥1人，副指挥1—2人，下设参谋、副官、秘书、军需、军法、军医、军械、政训8个处，还有一个特务营，指挥部下为支队、大队、中队、分队，每支队有一个特务连，有的支队还有机枪连。第三路军当时在阜阳有两个支队，第一支队有7个大队，第二支队有6个大队，每个大队约有兵500人。第5路军由余亚农任总指挥，下辖临泉、亳县、太和3个县，每县1个支队。临泉县为第一支队，李登波任支队长，辖3个大队，约200—300人；太和县为第二支队，王丹岑任支队长，辖5个大队，约2000人；亳县为第三支队，韩栗生任支队长，辖3个大队，约1000人。1938年秋，第五路军又在亳县成立警备司令部。
1938年11月，二十一集团军司令廖磊接任安徽省主席，着手整编自卫军，改为“游击”部队，郭造勋任游击纵队司令。
7、国民兵团
民国29年(1940年)初，各县奉命将人民抗日自卫军改为国民兵团。由县长兼团长，每团设副团长、干事、军需、副官、书记等职，辖3—4个中队，人数一般在400—500人。
8、自卫总队
民国36年(1947年)，国民兵团撤销，改为自卫总队。有的县为常备总队，由各县长兼总队长，各区设联防队(联防区)，所属队员，时多时少，无定编，人数一般在500人左右。
三、建国前共产党领导的地方武装
1、抗日独立大队
民国29年(1940年)4月，亳县成立“亳北抗日独立大队”。高峰任大队长兼政委，耿武任副大队长，下辖3个中队，人数270余名，枪140支。是年12月改编为独立营。民国29年(1940年)11月，涡阳县成立“涡阳县抗敌自卫大队”，由皖北地委书记赵文甫兼任自卫大队长，刘宝亮担任教导员，人数有500余名。
2、县大队
民国33年(1944年)始，与亳县接壤的县，设立了边区政权。分别为：雪商亳县、商亳鹿柘县、鹿亳太县。雪商亳县，于1944年8月成立县总队，县长丁希凌兼总队长，后由陈子南、鲁博华任总队长。1945年10月改编为独立五团，约1300人。商亳鹿柘县，于1946年11月成立县大队，县长孙清淮兼大队长，县委书记赵一鸣兼政委。1947年8月发展成两个大队，约1600人枪。鹿亳太县于1947年2月成立县大队，县长徐子佩(后为冯登柴、李如沅)兼大队长，县委书记张有奇兼政委，约有500人枪。雪商亳县于1947年5月组建县大队，计400余人枪。
1949年3月，中央命令各地将边区政权撤销，恢复原建制，成立亳县县委，同时也成立了县大队。县长李如沅兼大队长，县委书记张有奇任政委，共400人枪。
1945年始，涡阳县分辖县境，另立4个县即：雪涡县、涡阳县、涡亳县、宿蒙县。雪涡县，1946年成立县大队，后发展为独立团，1946年秋并入18军。涡阳县，1947年11月成立县大队，有地方武装2000余人。涡亳县，1947年7月成立县大队，有200余人枪，至1948年7月升为独立旅三十五团。宿蒙县，1947年12月成立县大队，有400余人枪，后编入十八军。
1948年6月，蒙城恢复原建制，同时成立县大队，县长兼大队长、县委书记兼政委，计764人。
1947年，阜北县成立，并建县大队，有200余人。1949年阜阳县成立，合并于阜阳县。
1947年，太和县恢复原建制。6月，县成立沙河大队、茨河大队。达500人。12月，成立县独立团，1949年2月编入十八军。同时县重建县大队，1950年后参加抗美援朝。
1947年，临泉立三县一市为：临泉县、泉南县、泉阳县、临泉市。1947年10月，临泉县成立县支队，1000余人。1948年1月县支队取消，设县大队。1947年10月，泉南县成立县大队，共130余人。1947年12月，泉阳县大队成立，共500人。1948年7月，临泉市成立市大队，共100人，1949年3月，三县一市合并，重建临泉县大队，共500人。
1947年春，界首市成立县大队，共300余人。
3、阚疃县支队
1948年1月，阚疃县成立，3月成立县支队，县长杨金辉兼任支队长。人数达300多人，1949年编入十八军。
4、淝河支队
1949年8月组建。由六分区司令部侦察科长孙晨光负责，全队400余人，编制4个连，同年10月，支队撤销。
5、界首支队
1947年11月，粟裕率领华野总部来界首，认为界首地处豫皖苏中心，具有重要战略地位，经提议，从华野总部警卫团抽出两个半连200多人和几十名干部，同界首县大队合并，组建成界首支队。由县长马捷任支队长，县委书记张孑夫兼任政委。初时约700余人。至1948年淮海战役前夕，界首支队共8个连，约1000多人。界首支队参加过三次主要战斗，一是歼灭沙河两岸土顽力量；二是配合主力解放太和县城；三是机动作战，配合兄弟部队围歼郭馨波匪徒。在界首一带歼敌10000余名。1948年11月，奉命参加淮海战役外围打援。1949年3月，界首支队改编为中国人民解放军十八军四十八师的一个团。