一、封建政权军队
东晋太和四年(公元369年)，将军假节征讨大都督谢石率水军屯驻全椒之滁河。
宋代将军焦光赞于全椒城西北40里的焦山(今草庵乡张户村西)扎寨抗金，石砌营垒，高数尺，周长六里多，东有摇旗台，北有摩旗台。
明初设立卫所。江宁右、江宁左、江宁前、江宁后、上元前、江淮右、石城、兴武、江阴、鹰扬、镇南11卫曾在不同时期，分别派军队驻屯全椒，各时期人数无考。
清初分驻全椒的卫所同明代，合计屯垦兵4468名，屯田3066顷，每年额征粮米14960石(全椒度量衡旧制，一石大米为180市斤)。康熙十二年(公元1673年)，因管理不善，兵多逃亡，田地荒芜，中央下令裁去部分士兵为民，归地方政府管辖。光绪二十七年(公元1901年)撤销屯卫。
咸丰四年(公元1854年)九月，清按察使恩锡引军进驻全椒官渡，次年移驻和州夹山关。咸丰十年至同治三年(公元1864年)，官军李世忠的河南军队一部驻全椒城。四年间，横行滁县、全椒等地，居民遭其荼毒苦不堪言。为了同太平军作战，该部拆毁了城乡大部分民房，百姓大半露宿。他们还经常四出劫掠，杀人放火，凶残至极。该部撤走后，椒民才稍有生机。
宣统三年(公元1911年)八月十九日武昌起义后，效忠清廷的江南提督张勋命令所辖江防营一部驻全椒，以镇压独立，十一月十日，驻全江防营北逃徐州。
民国十六年(公元1927年)4月，直鲁联军张宗昌部张宗甫旅驻全椒滁河沿线乡镇，军纪极坏，奸盗淫邪，百姓深受其害。
二、国民党军队
民国二十六年(公元1937年)冬，国民政府军队两个不完整团由南京败退全椒大马厂、大墅街一带。12月22日，日本侵略军第一次侵占全椒城时，该部闻讯退走。
民国二十七年2月底，国民党桂系一七○师副师长罗鹤率师部及一个别动队100余人由合肥进驻大马厂山根王、濠沟许(师部驻山根王)。师部下设电台、医务所，该师在对日作战中伤亡很大，别动队大都是剩下来的连排长，战斗力较强。5月初，别动队离开大马厂开往含山县阻击日军。同年春，国民党桂系二十一集团军高级参谋赵凤藻出任安徽省第五区专员兼保安司令，司令部驻古河镇，改编地方杂牌部队为两个保安团。
冬，原国民党二十一集团军四十八军一三八师一○二六团团长李本一接替赵凤藻任五区专员兼保安司令，带一个连的广西军和省保安第九团上任。广西军驻古河镇，保九团驻古河镇外围村庄。
民国二十八年2月，日军围攻寿县，保九团调往增援，该部自此离开全椒。
春，成立游击纵队，李本一兼第五战区第十游击纵队司令，纵队下设三个支队，司令部先驻古河镇，不久移至大墅街，三个支队基本活动于全椒境内。同时，五区专员公署又成立一个特务大队，负责专员公署的警卫。另外，李本一还在古河镇设立了安徽第五行政区军官训练班、第十游击纵队军事训练班培训军事干部。“十纵队”是由国民党桂系一手组建，成份复杂，大多数人员是地主保家丁、土匪和流氓。李本一之后，第二任司令龙炎武(任期1941年—1943年)，第三任柏承君(1943～1945年)；其间，皖东大屠杀后，二十一集团军一七一师师长曹茂琮曾短期代理司令一职。该纵队有战斗人员3000余人，步枪3000余支，轻、重机枪170余挺，“六○”炮60余门。
民国二十九年3月，桂系二十一集团四十八军一三八师、第七军一七一师、五战区第十游击纵队联合进攻新四军江北指挥部(定远县大桥镇)，国民党全椒县国民兵团第三大队配合十纵队特工队乘机向定远大桥新四军江北指挥部和四支队进犯，被新四军四、五支队粉碎，并乘势包围古河镇。在李本一告急之下，二十一集团军司令李品仙急调省保安第三切、保安第六团、一三八师五一二团增援，新四军主动撤离。战后，保六团退柘皋，五一二团两个营移驻合肥(今肥东)，一个营驻古河镇至年底。保三团(后改名保八团)留驻大马厂、西王集、管家坝等地，该团每连配备轻机枪九挺，小炮三门，士兵100余人，另有直属团部的一个机枪连，有重机枪三挺、迫击炮三门。保三团是当时皖东的机动部队。
夏，第五战区成立第二十游击纵队，司令赵凤藻。司令部下设三个支队，主要活动区域为合肥东，偶然在全椒西北乡活动，司令部设古河镇。与此同时，二十一集团军司令部另派一个军事情报组驻古河镇。
民国三十年，戚南谱奉戴笠的命令在皖东组织苏皖边区江北行动总队，活动于全椒、和县、江浦地区，全队120余人驻广平东石村，武器装备一律短枪，主要从事暗杀共产党人和抗日民主人士，刺探新桂系动态等活动。
民国三十一年初，二十一集团军一三八师五一二团一营500余人驻东王集，数月后撤离。同年，忠义救国军苏皖边区江北办事处(军事谍报组织)驻卜集西石村。忠义救国军长江下游挺进大队(国民党流亡武装)便衣四、五十人驻广平，活动范围为津浦路东。
民国三十二年秋，长江下游挺进军江北挺进纵队便衣七、八十人驻程家市大王村，一律短枪，主要活动于江苏六合一带，为国民党六合县流亡地方武装。
民国三十三年5月，国民党成立统一指挥滁(县)、来(安)、全(椒)、定(远)、凤(阳)、嘉(山)、和(县)、含(山)八县军务的皖东指挥部，二十一集团军第七军副军长少将漆道徵任总指挥，指挥部设古河镇，一七一师一个营驻古河镇负责警卫(该师于1940年前后自皖西调入皖东，主要驻防巢县，司令部驻地为与我县紧邻的巢县栏杆集)。
民国三十四年8月底，抗战胜利后，第十战区第二十游击纵队司令部撤离全淑，第十游击纵队在大墅街被整编为安徽省保安独立第三团调防津浦线之固镇(五战区于1943年前后改名为十战区)。同月，国民党桂系四十八军一七一师进驻县城、陈家浅、大马厂、武家岗等地。
民国三十六年夏，七十四师残部补充的一个旅驻全椒整编，旅部设在县城袁家湾。
民国三十七年秋，国民党军队一个团(番号不明)驻全椒，不久撤离。同年，南京首都卫戍司令部全椒特工小组携电台一部驻县政府，县城解放前夕撤离。
三、人民军队
民国二十七年(公元1938年)，参加上海会战的原东北军六十七军200余名下层军官由八路军武汉办事处介绍到新四军四支队，成立了东北流亡抗日挺进纵队，3月底由巢县黄山进驻全椒小集周埠村，不久驻大马厂，司令员董东翘、政治部主任刘冲。7月下旬，在共产党控制的县国民政府抗日人民自卫军政训股的帮助下，扩大到1000余人，并曾进驻县城。“挺进队”下设三个支队(营级)，政治成份比较复杂：一支队是原东北军人员；二支队是由“巢抗”改编，比较进步，支队长为冯玉祥将军的原警卫员共产党员冯文华，教导员是共产党员张恺帆；三支队刘子清部，绝大多数是土匪、地痞和散兵游勇。挺进队臂章图案为一持枪战士，图文为“向白山黑水挺进”。8月“挺进队”因刘子清支队叛变，重新改组，改名东北流亡抗日挺进团，团长韦郁周、政委刘冲、政治部主任高志荣(兼党委书记)。下辖二个营和一个直属队，一营长冯文华、教导员张恺帆，二营教导员周利人。此时，全团有七、八百人，重机枪五挺，轻机枪十挺。10月，挺进团进驻大马厂山根李。10月8日，新四军四支队八团(前身为红军豫南游击队)越过淮南路进驻全椒大马厂山根王村。11月，在团政委林凯、团长周鸣骏等人主持下，强行将东北流亡抗日挺进团编入八团。
民国二十八年2月中旬，新四军参谋长张云逸到达大马厂濠沟许。22日，新四军四支队政治部战地服务团进驻大马厂以及周家岗附近的西何、陈郢、大汤自然村宣传抗日，组织青抗会，农抗会、妇抗会、商抗会以及农民自卫队和儿童团。战地服务团团长程启文，副团长汪道涵。4月，四支队八团转驻周家岗、西王集、复兴集以及与我县交界的珠龙桥(滁县)、池河、藕塘(定远)。七、九两团相继东进全椒，七团团部驻周家岗大谭郢子，九团驻复兴集一带。
民国二十九年2月，四支队七团一度改驻孤山老熊家(自然村)一带，4月，驻大墅街、龙山东部一带。
民国三十年，新四军二师五旅十三团一个营进驻周家岗、复兴集一带。
民国三十二年，新四军二师五旅十五团进驻孤山、复兴集一带。
民国三十七年3月，华东野战军十二纵队三十四旅旅长廖成美率领一○一、一○二两个团和杨效椿率领的淮南支队短期驻大马厂一带。8月至11月，谭启龙、孙仲德率领的中国人民解放军华东野战军渡江先遣队四支队驻大马厂，为大军渡江作准备。
1949年3月12日至22日中国人民解放军华东野战军二十五、二十六两军集结全椒，准备渡江作战。二十五军七十五师驻二郎口，七十六师驻谭墩，七十八师驻界首，七十七师驻武家岗，军直机关驻黄家庵。二十六军驻中心集、南腰铺两地。
1949年至1951年底，滁县军分区警备一营(全椒营，由全合县总队改编)，驻全椒城。
1950年1月至1956年，1970年至1984年，县内设负责兵役、军训工作的中国人民解放军全椒县人民武装部。1956年至1969年在原县人民武装部的基础上增设兵役局。兵役局、人武部驻县城。
1964年至今，中国人民解放军6408部队驻县城东南开办军垦农场。
1966年至1976年，中国人民解放军6527部队驻县城东部开办军垦农场。
四、日伪军
民国二十六年(公元1937年)12月22日，日本侵华军陆军支那远征军先遣队两角部队侵占全椒城，后由“半部队”接防，约1000余人集中驻国光楼西襄滨女子学校，装备精良，除轻、重机枪及“三八”、“六五”式步枪外，还有马拉山炮多门，弹药充足。民国二十七年5月16日，日军在连续遭受挺进队、自卫队、刀会的打击后，退出全椒城。
民国二十八年4月26日至三十四年8月15日日本投降，日军第二次侵占县城，部队全称：“日本文那派遣军全椒警备队”，人数多时1000余人，少时二、三十人，驻国光楼、夫子庙一带。其编制一个中队设三个分队、九个班，每班15人。指挥官有江上一郎、福田重、庄师、本田四人。初于陈家浅的港口、谭墩的黄山嘴、白酒的斩龙岗、界首街四地建立据地，后因兵力不足撤除。此间，汪伪政府中国陆军第一方面军第六师的六个连轮换驻防全椒，外防地为白酒岗、武家岗，内防地为县城。
民国三十三年下半年至三十四年6月，汪伪政府的警卫第二师李佩吾团驻防全椒城，日式装备，配备有轻、重机枪和运输车辆(汽车)。进驻当夜，两个营奉命调防滁县韦家湾，全椒驻团部和一个营。
民国三十四年6月至8月，汪伪政府第五路军第三集团军一个营驻县城。8月15日，日本投降后，该部和驻全椒日军一起至滁县集中编遣。