一、警备营（1917～1927）
民国六年（1917年），怀远县府设立警备营，营长梅凤章（梅焕臣），有官佐兵目240名，饷械经费由城乡各区分摊。民国十六年（1927年）改编为自卫团。
二、保安大队（1932～1938）
民国二十一年（1932年），安徽省各县原有地方武装统改编为保安队。怀远县编为甲种队，队长巫泳行，后换张永知，下设4个中队，1个特务排，有官佐28名，士兵457名。翌年九月改编为乙种队，辖2个中队、1个特务排，有官佐16名，士兵134名，计150名，有枪140支，弹药10260发。民国二十七年（1938年）二月，日军占领县城后解散。
三、国民兵团（1940～1947）
民国二十九年（1940年）春，县内武装统一改编为国民兵团。团长由县长李大昶兼，王松岩任副团长，辖3个自卫中队，每中队配官员5名，士兵101名，合计318名，有枪270支。其中第一中队配捷克式轻机枪1挺，子弹2000发。团部驻县府东慈家庙。民国三十六年（1947）解散。
四、民众自卫大队（1946～1949）
民国三十五年（1946年）组建，队部设县城关，辖五个中队400余人。其中第五中队在淮南专员公署值勤。1949年怀城解放后解散。
五、联防大队（1946～1949）
民国三十五年（1946年）冬，县府在原有的旧区制基础上成立了5个联防大队。限在各区的范围内活动。
第一联防大队长康席候，队部驻马头集，活动范围在城关附近。
第二联防大队长杨厚存，后换陈瑞生，队部设上窑，活动范围在马城、新城口一带。
第三联防大队长耿宾成，后换顾孝先，队部设胡疃，活动在朱疃、茆塘一带。
第四联防大队长李佩韶，后换吴朋飞，队部驻河溜，活动在龙亢、河溜一带。
第五联防大队长崔玉龙，队部驻包集，活动在新集、包集、火庙一带。
1949年初，怀城解放，各联防大队全部解体，人员遣散。
六、保警队（1947～1949）
民国三十六年（1947年）冬，县设保警队，县长兼队长，辖两个大队800余人。第一大队长吴执卿，内编三个中队，活动在涡北、淝南一带；第二大队长燕子飞，后换吴道本，内编四个中队，一、二中队在城内防务，三、四中队在马城一带活动。1949年解散。