清代以前，本县无军事机构。抗日战争期间，三权鼎立，县抗日民主政府、县(国民)政府和县(日伪)政府同时并存、互相对峙、互相抗衡，而这一切都以军事为手段，以武装为后盾，因此，三方政府都注意加强军事机构和武装力量的建设，加强军事活动，以图生存和发展。经过8年抗战，在中国共产党领导下，打败了日本侵略者，解放了县城，建立了人民政权。解放战争期间，本县又成为国民党军队的重点进攻目标，中国共产党领导下的人民武装奋起还击，经过3年浴血奋战，第二次解放了县城，结束了国民党政权在灵璧的统治历史。