民国初年，阜阳沿用清末的募兵制度(即自愿兵制)。民国22年(1933年)始实行征兵制(即义务兵制)，初由抽签确定壮丁，后按人口、地亩摊派壮丁，终因各级政府腐败，徇私舞弊，虐待兵丁，青年不愿当兵，加之战争连年，兵员不济，便到处强行抓壮丁。
中华人民共和国成立前和建国初期，党在长期的战争中，一直是实行志愿兵役制。1955年颁布了《中华人民共和国兵役法》，从此，我国开始实行义务兵役制度。当年，阜阳城开始义务兵征兵工作。
一、兵役制度
阜阳建市后，遵照国家兵役法，实行义务兵役制为主体的义务兵与志愿兵相结合、民兵与预备役相结合的兵役制度。
公民履行兵役义务的形式，分为现役和预备役。参加中国人民解放军或中国人民武装警察部队为现役，编入民兵组织、预备役部队或经过预备役登记为服预备役。高等院校和高级中学以及相当于高级中学的学校参加军事训练，也是履行兵役义务。1978年提出不征文盲兵的要求。1984年5月31日，第六届全国人民代表大会会议通过新兵役法并颁布实施。年满18周岁的男、女公民，符合服役条件的可服现役，陆军服役3年，海军服役4年，空军服役5年。服役期满，根据部队需要和本人志愿，可超期服役，当志愿兵。志愿兵服役年限不得超过12年，年龄不得超过35岁。未被征集服现役的服预备役，预备役士兵年满29岁即转入第二类预备役，第二类预备役士兵年满35岁即退出预备役。
二、征兵
市人民武装部平时结合民兵、预备役兵役登记工作，了解和掌握适龄民兵数量、质量和分布情况，做好征兵准备工作。每年9月30日前，组成征兵领导机构，组织基层单位对当年12月31日前年满18岁的男性公民进行兵役登记，确定应服兵役、免服兵役和不得服兵役的人员，报市征兵办公室。经兵役登记和初审合格的称应征公民。市卫生部门统一抽调医务人员，组成体格检查组，设立体检站，按市征兵办公室规定，对应征公民进行体检。由公安、纪检、监察、教育、民政部门和基层单位，对体检合格的应征公民进行政治审查，重点查清他们的现实表现，并填写《应征公民入伍审查表》。市征兵办公室对体检、政审合格的应征公民进行全面衡量，优先批准政治思想好、身体好、文化程度高的服现役，发给《应征公民入伍通知书》。
阜阳市早已形成当兵光荣的社会风尚，青年人具有强烈的保卫祖国、保卫社会主义建设的爱国主义精神，每年征兵时，都踊跃报名、全力竞争。一人被批准入伍，全家当做喜事操办，亲邻朋友也一齐祝贺。
从1976年建市至1985年，全市应征义务兵1270人，其中向中国人民解放军输送新兵835人，向武装警察部队输送新兵435人。分别为：1976年冬季85人，1978年春季51人，1983年冬季454人，1984年冬季430人，1985年冬季250人。
三、预备役登记
阜阳建市后次年，即1977年便实行预备役登记。1984年5月颁布新兵役法，规定民兵与预备役相结合的制度，预备役分为一、二两类。服第一类预备役的有：年龄18—28岁的编入基干民兵组织的人员，经过预备役登记的退出现役的士兵和专业技术人员。服第二类预备役的有：年龄29—35岁的编入普通民兵组织的人员。经过预备役登记退出现役的士兵及其他符合服预备役的男性公民。
1985年底，阜阳市退伍军人服预备役总数为2712人，其中：技术兵1191人，普通兵1236人；服一类预备役2246人，其中：技术兵1010，普通兵1236人；服二类预备役466人，其中：技术兵181人，普通兵285人。