预备役是指后备兵员随时准备根据国家需要应征入伍服役。退出现役的军人和应服役而未入伍的公民，均按照国家法律规定编入预备役。1955年2月15日《中华人民共和国兵役法（草案）》公布后，淮南市在实行义务兵役制的同时，建立了预备役制。同年12月，市兵役局设立了预备役军官科，预备役士兵统计科，具体负责预备役工作。至1959年1月，此项工作停止。1980年12月1日开始，对退伍军人进行预备役登记统计。1984年10月1日《中华人民共和国兵役法》公布后，实行预备役制。
淮南市把预备役和民兵相结合，服预备役和参加民兵组织的人员年龄都是18～35岁，基干民兵服一类预备役，普通民兵服二类预备役，预备役士兵的训练，主要在民兵组织中进行。每年9月，全市对适龄、符合条件的男性青年进行兵役登记，除服现役的以外均转入预备役。1987年有46076人转入预备役。退出现役的士兵，在退伍安置的同时，凡符合条件的士兵均作预备役登记，作为预备兵员储备起来。1990年服一类预备役的有5751人，服二类预备役的有4700人。1981～1990年，共登记预备役人员15396名。