一、清军
清顺治六年(1649年)，两江总督马国柱、安徽巡抚刘宏遇率清军入皖西，驻扎将军寨(今金寨县境)。
乾隆十五年(1750年)，两江总督尹继善率清军驻扎千箩畈(今金寨县境)。
同治三年(1864年)，清政府为镇压太平军、捻军，派指挥陈华元、白云青、贾万林，提督张得胜等率清军进入皖西，先后驻扎金家寨、霍邱、霍山等地。
光绪三十二年(1906年)，清政府设巡防营于麻埠，有步兵、马兵各1队。步兵队分左、中、右3哨，每哨8棚、每棚正兵9名，共有官、兵301人；马兵队亦分左、中、右3哨，每哨4棚，每棚正兵9名，共有官兵189人，马135匹，固定防区为麻埠、流波、金家寨一带。
二、太平军捻军淮上军
清咸丰三年(1853年)11月，太平天国军胡以晃、曾天养部克舒城，始入皖西。四年首克六安，曾先后驻扎六安、舒城、金家寨、霍邱等地，至同治五年(1866年)全部转战离去，在皖西地区活动长达14年之久。
咸丰六年7月，捻军首领张乐行率捻军数万人入皖西，先后驻扎霍邱三河尖、寿县、六安、金家寨、霍山等地，于同治五年初离开皖西。
咸丰九年，太平天国英王陈玉成部占六安，后退驻霍山、舒城等地，曾在舒城县九井、毛竹园等地与清军激战。
宣统三年(1911年)11月，淮上革命军总司令部在寿县成立，王庆云为总司令，张汇滔、张纶、袁家声为副总司令。淮上军共辖步兵18营、马队1营、炮队2营，皖西境内寿县、霍邱、六安等地均被淮上军光复。
三、国民政府军
国民革命军第三十三军组建于民国15年(1926年)国共两党合作时期，次年初进驻皖西，军长柏文蔚，党代表常恒芳。同年秋，该军计有官兵35000多人，先后在六安、寿县、霍山等地驻扎。民国17年，北伐战争结束后，南京召开编遣会议，三十三军番号取消。
国民革命暂编第六军民国15年末，北伐军抵皖，由原“皖豫国民联军”改编组成，军长石寅生，下辖5个旅万余人。军部驻霍邱县城北门，霍邱、寿县为该军驻地。民国16年4月移防外省。
中央陆军第四十六师民国19年12月进入皖西，师长岳盛宣(后任夏威)，先后驻扎六安、霍山、金寨等地。1949年1月撤往武汉。
中央陆军第四十五师民国20年4月进入皖西，师长卫立煌，先后驻扎六安、霍山、金寨等地。民国25年底撤离皖西地区。
中央陆军第五十五师民国20年10月进入皖西，师长阮肇昌，先后驻扎六安、霍山等地。民国21年6月撤离皖西地区。
中央陆军第五十七师民国20年11月进入皖西，师长李松山，先后驻扎霍山、六安、金寨等地，民国21年6月撤离皖西地区。
中央陆军第七师民国20年11月进入皖西，先后驻扎霍山、六安等地。民国21年5月苏家埠战役中，该师被红四方面军歼灭，师长厉式鼎被俘。
中央陆军第四师民国21年6月进入皖西，师长徐廷瑶，先后驻扎寿县、六安、霍山等地，同年10月撤离皖西地区。
中央陆军第三十二师民国21年6月进入皖西，师长梁冠英，下辖九十四、九十五、九十六旅，先后驻扎霍山、舒城、六安等地。民国27年5月撤离皖西地区。
中央陆军第六十四师民国23年2月进入皖西，师长刘镇华，下辖一九○、一九一、一九二旅，先后驻扎金寨、霍邱、六安等地，民国27年5月撤离。
中央陆军第六十五师民国23年2月进入皖西，师长刘茂恩，下辖一九三、一九四、一九五旅，先后驻扎金寨、霍山等地，民国27年5月撤离。
中央陆军第二十一集团军民国27年6月进驻皖西，集团军总司令廖磊，继任总司令李品仙，下辖第七、第四十八、第八十四军。总司令部驻立煌县(今金寨县)红石岩，所属部队先后驻六安、金寨、霍山、霍邱等地。民国34年8月，抗日战争胜利后，总司令部及所属部队相继撤离。
中央陆军第八十八师民国36年初进入皖西，师长张世光，先后驻扎舒城、六安等地，同年10月，该师师部及所属六十二旅在六安县张家店被晋冀鲁豫野战军第三纵队歼灭1余部退离。
中央陆军第四十八师民国36年初进入皖西，先后驻扎舒城、六安、霍山、金寨等地，1949年1月撤往武汉。
四、中国工农红军新四军
中国工农红军第十一军第三十二师1929年5月6日“立夏节”起义成功，9日会师斑竹园，组建成立中国工农红军第十一军第三十二师，师长周维炯、党代表徐子清，下辖九十七、九十八两个团及特务营、炸弹队。红三十二师成立后，先后在金寨、霍山等地活动。1930年5月，红三十二师与红一军军直机关会合，在南溪改编为中国工农红军第一军第二师。
中国工农红军第十一军第三十三师1929年11月8日“六霍起义”爆发。次年1月，红军第一、二游击纵队和六安六区游击大队在流波合编为红十一军第三十三师，师长徐百川，党代表鲍益三，政治部主任张健民，下辖一○六、一○七、一○八共3个团。先后在霍山、金寨等地活动，曾两次攻占霍山县城。1930年5月，红三十三师在金寨附近的南庄畈与红一军军部及红二师会合。5月23日，红三十三师与红二师一部合编为中国工农红军第一军第三师。
中国工农红军第一军1930年3月组建，先后在六安、霍山、金寨等地活动，军长许继慎，政委曹大骏，副军长兼参谋长徐向前，政治部主任熊受暄。下辖第一、二、三师及独立旅、教导队，全军约4000余人。1931年1月编入红四军。
中国工农红军第四军1931年1月中旬，红一军与红十五军在商南长竹园会合，合编为中国工农红军第四军，军长旷继勋，政委余笃三，参谋长徐向前，政治部主任曹大骏。下辖第十、第十一、十二、十三4个师及独立团、警卫团，全军共12000余人。红四军组建后，先后在六安、霍山、金寨、霍邱等地活动，1931年11月后编入红四方面军。
中国工农红军第二十五军1931年10月在麻埠组建，军长旷继勋，政委王平章，下辖第七十三师，主要在霍山、金寨、六安、霍邱等地活动。同年11月，该军整编为中国工农红军第四方面军第二十五军。1932年10月，七十三师随红四方面军主力转移川陕地区。11月底，红二十五军余部和留在鄂豫皖边区的其它红军合编，成立新的红二十五军，军长吴焕先，政委王平章，辖七十四、七十五两个师，全军约7000人。1933年11月中旬，红二十五军在军长徐海东、政委吴焕先，政治部主任郭述申率领下，以“中国工农红军北上抗日第二先遣队”名义，离开鄂豫皖边区。
中国工农红军第四方面军1931年11月7日在湖北黄安县七里坪成立，徐向前任总指挥，陈昌浩任政委，刘士奇任政治部主任，下辖红二十五军和红四军，共3万人，先后在六安、霍山、霍邱、寿县、金寨等地活动。1932年10月撤离皖西。
中国工农红军第二十七军红四方面军主力撤离鄂豫皖边区后，留在根据地的部分红军在英山县金家铺合编为中国工农红军第二十七军，随即进入皖西，军长刘士奇、政委郭述申、副军长吴宝才，政治部主任江求顺，下辖七十九、八十一两个师。1932年11月24日，红二十七军番号撤销。
中国工农红军第二十八军1933年1月上旬，红二十八军在湖北省麻城县大畈成立，随即进入皖西地区，全军3000余人，军长廖荣坤，政委王平章，政治部主任程启波。3月下旬，政委王平章在立煌县大小门坎山战斗中负伤牺牲。4月上旬，红二十八军改编为红二十五军七十三师。同年10月11日，红二十八军在南溪重建，军长徐海东，政委郭述申。辖八十二、八十四两个师，全军共2300余人。1934年4月，该军编入红二十五军。同年11月，红二十五军主力北上抗日后，余部于1935年2月3日再次重建红二十八军，下辖八十二师及手枪团，高敬亭任该军政委，此后主要活动在六安、霍山、金寨、舒城等地。
新四军第四支队由红二十八军和鄂豫皖边区红军游击队，于1938年2月中旬改编而成，支队司令员高敬亭，参谋长林维先，政治部主任肖望东，下辖七、八、九团和手枪团、直属队，全支队3100余人。3月上旬分别由黄安县七里坪、礼山县黄陂、信阳县邢集出发东进，下旬会师于立煌县(今金寨县)流波，4月初进抵皖中地区，5月上旬支队司令部进驻舒城县西港冲和东港冲，指挥部队开展抗日战争。
五、中国人民解放军
晋冀鲁豫野战军第三纵队1947年8月，刘伯承、邓小平率晋冀鲁豫野战军挺进大别山，8月中旬，第三纵队向皖西进发。三纵队辖七、八、九3个旅，司令员陈锡联，政委彭涛。三纵队进入皖西后，连克六安、金寨、霍山、舒城等地，并于10月9日在六安张家店歼敌八十八师师部及所属六十二旅后，离开皖西，转至外线。1948年淮海战役结束后，三纵队再度进入皖西，先后解放霍山、寿县、六安、舒城、霍邱、金寨。同年9月，转战他处。
南京军区工程兵部工区属师级单位，1964年进驻六安县独山，辖5个营，担任国防工程施工任务。1978年完成任务后，撤离。
南京军区三局后方管理所原为1966年迁驻六安县，代号南字408部队，属军级单位。1968年，缩编为师级单位。1983年司、政、后机关迁离，由留下部队改建。
361医院属团级单位，1967年1月迁驻六安县独山黄涧河。1968年底改为802医院，1972年改为126医院。
南京军区城西湖农场组建于60年代末，属师级单位，编设司令部、政治部、后勤部。自1975年起，多次进行精减整编。这是一个初具现代化规模的大型农场，农场部队主要从事农业生产，每年有一个月时间进行军事训练。
七○○野战医院1970年8月组建，属团级单位，驻霍邱县。1983年11月1日，改为131医院。
南京军区六安场站1974年正式组建，属团级单位，编设司令部、政治处、后勤处，隶属空军航空兵第十师。
753仓库团级单位，1975年3月在舒城县组建，隶属安徽省军区后勤部。
南京军区测绘大队团级单位，隶属南京军区司令部，1975年12月由南京汤山炮校迁至六安市。
南京军区汽车技工训练大队团级单位，隶属南京军区后勤部，1979年由江苏无锡市迁驻六安市，主要从事汽车驾驶员和修理工的培训工作。
安徽省军区独立师原为浙江省军区独立师，1975年4月改为安徽省军区独立师，进驻六安县三十铺，下辖三个步兵团及一个炮兵团，1980年底撤消。