安庆是江淮之间的军事重镇，历来为屯兵驻防的要津。“分江则锁钥南北，坐镇则呼吸东西。”自南宋建城后规模较大的战事达十余次。如天完红巾军与元军争夺安庆之战，朱宸濠率军围攻安庆，太平天国安庆保卫战等。清末，安庆发生多次反清武装起义，其中有一定影响的是巡警学堂起义、炮马营起义和安庆新军起义(见卷五十一·民主革命纪略)。辛亥革命后军阀混战期间，安庆民众常遭乱兵残害。民国16年(1927)3月，北伐军分两路进入安庆。安庆沦陷期间，新四军第四支队、第三支队、第七师等属部，以花山为根据地，开展游击战争，屡创日军。解放战争后期，安庆城是国民党军在长江北岸固守的据点之一。1949年3月，人民解放军第二野战军南下围城，准备渡江。渡江战役开始后，守城国民党军渡江南逃，怀宁县自卫团投诚，人民解放军解放安庆。
解放后，建立市军事机关，负责兵役、民兵、防空工作。驻市军队和地方武装在承担城市警备的同时，参与维护社会治安、救灾抢险、支援生产建设，军民共建社会主义精神文明。
民兵是安庆的重要军事力量。1949年4月，市郊即建立民兵组织。1954年开始组建城市民兵。1979年后，民兵军事训练内容上减少基础训练，加强技术、战术训练和专业兵种训练，训练方式由单一步兵训练发展到多项目、多兵种训练，由小型分散训练发展到以训练基地为主要形式的相对集中训练，逐步走上正规化、制度化、规范化轨道。