淮南解放前，田家庵、洛河、上窑等地属怀远县。国民党县政府的兵役机构是军事科，属于寿县和凤台区域的役政，也依各自归属的指令行事。为加强地区性的兵役管理，国民政府还专门规定了师管区、团管区，并设置相应的机关。凤台县的兵役属于阜阳团管区，隶属皖北师管区。
解放后，市人民武装部为淮南市常设兵役机关，曾一度称兵役局。1985年改称淮南军分区，同时兼为淮南市军事领导指挥机关，每年征兵工作开始，由市政府和军分区组织军地有关部门成立征兵领导小组，协调军分区和市委、市政府的宣传、公安、教育、卫生、民政、财政、交通、监察等部门，按照兵役法规落实应承担的工作，常年负责处理兵役工作事务。