民国时期，蚌埠驻军复杂多变,先后有50多支不同辖属的军队。解放后，分别有人民解放军的步兵、航空兵、炮兵、雷达兵及舟桥部队驻扎。
淮上军清宣统三年(1911年)冬,寿州革命党人所组淮上军到达蚌埠,副司令袁家声、军统廖海粟率第十二、十三营及一个炮兵连和100多名寿县公学学生共500多人在小南山设防。是年12月，与张勋“辫子军”在小南山激战后,扎营于淮北一带。其所属各旅,均在蚌设立办事处。
革命军清宣统三年(1911年)12月,革命军第一军军长兼北伐联军总指挥柏文蔚率第一、五军追击张勋军进驻蚌埠。翌年，柏分别被委为安徽都督、安徽方面军总司令，司令部设在蚌埠。所部第一师也在蚌驻节。
北洋军民国2年(1913年)底,皖系军阀、安徽都督兼署民政长倪嗣冲受袁世凯之命,率所部武卫军5路集结于沿淮一线,部分军队进驻蚌埠。民国3年，倪被授为安武将军,在蚌建有“将军府”,所部武卫军改为安武军,扩充为8路,常驻蚌有两三个旅。民国5年,张勋的定武军一部也同时驻扎在蚌。张勋复辟失败后,其定武军被倪收编为新安武军。民国6年,倪任安徽督军,将80多个营的军队编成5个混成旅,第一混成旅旅长马祥斌带兵驻蚌。民国9年9月,倪嗣冲离职,张文生督皖,调已为倪嗣冲改编了的原张勋军一部驻蚌。民国11年,军阀马联甲取代张文生,率军驻蚌。民国13年,安徽陆军第四混成旅旅长高世读率部在蚌驻节。民国14年1月,段祺瑞的宣抚军第一军军长张宗昌率军南下,曾驻蚌埠。10月,响应浙军讨奉的安徽陆军第一混成旅旅长倪朝荣率部到蚌,原奉系安徽军务督办姜登选率部离蚌。11月底,投靠孙传芳的皖军总司令陈调元率所部第六师进驻。民国15年,直系军阀孙传芳北上与奉军相争,孙部诸玉璞率军曾驻扎蚌埠。冬,奉系张宗昌所组直鲁联军司令部设在蚌埠商会,派张克瑶第六十七师担任蚌埠警卫,于翌年5月弃蚌。民国16年8月间，联军孙传芳部再度入蚌,11月离去。
国民党军队民国16年，在南京国民政府宣布成立后,5月至8月间，国民革命军北伐军战败直鲁联军,李宗仁第三方面军胡宗铎、夏威等部进入蚌埠,贺跃祖第四十军、叶开鑫第四十四军曾经过蚌埠。另外,王天培第十军一部曾驻扎在蚌,刘佐龙第十五军也曾驻蚌休整。同年11月,北伐军再次光复蚌埠,刘峙、贺耀祖、夏斗寅等军从蚌埠继续北进,顾祝同第九军一部在蚌驻扎。翌年2月至3月,张克瑶第三十三军、缪培南第四军、吴奇伟第十二师、陈兰馨第二十六师、薛岳教导第二师等,陆续经蚌埠北伐。民国18年9月,陆军第七师从江西移防蚌埠。冬,投靠蒋介石的原西北军将领石友三被委为第十三路军总指挥兼安徽省主席。石军到蚌后不久,在浦口发动兵变,失败后,又退驻蚌埠,于次年春节前夕离蚌。民国19年春,驻蚌顾祝同第一军换防徐州,陈继承第三师、陈诚第十一师驻蚌,至5月亦北上。嗣后，卫立煌整编第四十五师驻蚌,至民国20年5月移出。之后，张砺生骑兵第三师,财政部原驻松江、九江、东海的第一、二、三团,及陆军第八十三师先后移防蚌埠。民国21年，徐庭瑶第四师驻蚌,并曾自蚌埠向鄂豫皖根据地“进剿”。“围剿”后,徐部仍驻节蚌埠。翌年3月，徐升任第十七军军长,兼蚌埠警备司令。至民国26年，先后在蚌的国民党驻军还有:改编第五十军一部,第一六七师薛蔚英部,廖磊第七军二五五旅,以及直属国民政府的空军某部等。民国27年蚌埠沦陷时,2月，于学忠第五十一军一一三师和张自忠第五十九军一部,曾在淮河北岸小蚌埠一带阻敌北进。抗战胜利后民国34年9月,国民党第十战区司令部设在蚌埠,司令长官李品仙,驻军为第七军，军长钟纪。翌年1月，第十战区撤销,改建为第八绥靖区,司令部设在蚌埠,司令官夏威。第七军三十六师所辖3个团分别布置在凤阳、刘府、蚌埠、怀远一线。民国37年淮海战役前夕,第四绥靖区刘汝明部于11月上旬集结淮河北新马桥、新集一带。后徐州“剿总”副司令兼第九绥靖区司令李延年驻蚌,任徐州“剿总”蚌埠指挥所主任。11月28日,徐州“剿总”总司令刘峙从徐州逃回蚌埠,坐镇指挥。淮海战役期间,曾集结在蚌的国民党军队，主要是李延年的第六兵团(由第九绥靖区改编)和刘汝明的第八兵团(由第四绥靖区改编)。其第六兵团辖第三十九军,军长王伯勋;第五十四军,军长阙汉骞;第九十六军,军长于兆龙;第九十九军,军长胡长青,共10个师,30个团。第八兵团辖第五十五军,军长曹福林;第六十八军,军长刘汝珍,共6个师,18个团。此间，见到番号的还有:第二十军所辖2个师,6个团;第七军；某部第七师；整编第四十六、四十八、一七三师；整编第一八八旅；国防部第二厅测向台第十五电讯台；陆军第十三团副官处；第三绥靖区蚌埠指挥所；皖北师管区司令部；联勤总司令部及其营产管理所；辎重兵汽车第五营；空军蚌埠场站,空军第五防空雷达分队；番号为第九、第五十四、第二二六、第十六、第十一的被服、粮秣、军械、通信器材、卫生器材仓库；蚌埠警备司令部；宪兵队；蚌埠公务员军训团等。
中国人民解放军民国38年1月，在蚌埠刚解放时,为解放军江淮军区第二分区第四、五团和军区教导团所驻,8月份后调出。1951年秋,空军轰炸航空兵第二十师进驻蚌埠机场。至1952年,在蚌埠短暂驻扎的部队有解放军野战医院、第二预科总队,第五先遣大队等。1953年4月,空军歼击航空兵第十一师从徐州移防蚌埠。10月,原航空兵第二十师移出。同月,解放军步兵第一七九师自朝鲜归国进驻蚌埠,设司令部、政治部、干部部、后勤部,辖3个步兵团,3个直属特种营,8个直属特种连。同年12月,南京军区直属某舟桥团(代号83453)由江苏无锡移驻蚌埠,设有司令部、政治处、后勤处,辖4个营和机械连、运输连、修理连等8个直属分队。1961年,解放军高炮第六十六师、工程兵某舟桥团、安徽军区独立第二师第四团、第六十军第一八○师先后移驻蚌埠，原步兵第一七九师移出。1963年3月，空军轰炸航空兵第十师在机场驻扎,原航空兵第十一师移出。1965年，原第一八○师仅留一个团,其余移出。“文化大革命”开始后的1967年,解放军陆军第三十六师进驻,参加了地方的“三支两军”工作。1969年底,空军在蚌埠机场新组建歼击航空兵第四十五师,原航空兵第十师移出。1976年4月,歼击航空兵第四十五师改装为强击机部队,于1978年12月调走。1978年，陆军第三十六师也移出。此间，还有空军雷达兵某团(代号87039)在蚌驻扎。
附:日本侵略军和伪军
民国27年(1938年)2月2日,日本陆军第十三师团攻占蚌埠,辖2个旅团的8个联队。2个旅团为第二十六旅团、第一○三旅团,8个联队为第五十八、第一一六、第六十五、第一○四联队和骑兵第十七联队、炮兵第十九联队、工兵第十三联队、辎重兵第十三联队。2月14日,第十三师团归属华中派遗军,师团长荻洲立兵。4月,第十三师团赴徐州,第三师团的第五旅团第六、第六十八联队进入蚌埠,担任警备军务。此间,随日军一起进入的还有汉奸齐燮元的部队和伪满州军一部分。民国28年,日军第三师团第五旅团调走，新编成的日本陆军独立第十三旅团进驻蚌埠,团长官为山田治雄,所辖部队有独立第五十六、五十七、五十八、五十九、六十计5个大队,另有炮、工、辎重兵各1个大队。山田治雄任蚌埠警备司令。此间，驻蚌的伪军清乡支队司令为沈席儒。民国29年,驻蚌的日军编为华中派遣军第十一军团独立第十三混成旅团,驻蚌的伪军为李伯英第十四师和沈席儒的第九团,沈任伪蚌埠绥靖司令。民国32年,伪安徽省清乡事务局自芜湖移入蚌埠,历任局长有孔宪铿、魏曙东、刘石光等人。清乡事务局网罗特务,配合日军对抗日根据地进行扫荡。
日本投降前夕,驻蚌的日军为第十三军团所辖的第六十五师团七十二旅团一部和第六军团的第七十师团一部,岩仲义治为警备司令。伪省长林柏生的卫队为伪国府警卫第二师(师长秦汉清)。伪第三方面军吴化文部第六、第七军(含第四十六、四十七、四十八、四十九、五十师)驻蚌及蚌埠外围,伪第七军军长杨友伯为蚌埠警备司令。其分布:第四十八师驻兰郢子一带,第四十九师驻许家圩、柳树营,第五十师随军部驻市区内。
附:侵占蚌埠日军暴行
日军陷蚌前的民国26年(1937年)8月16日,其飞机首次对驻蚌改编第五十军军部和飞机场及部分街道轰炸,伤亡居民达400余人。之后，日军不断派飞机轰炸，至民国27年2月，市民计死伤千余人,房屋倒塌难以计数。有的吃奶婴儿同母亲一道被炸死。2月2日日军占领蚌埠,一进城区即分派数支小分队,逐街逐巷搜索,见人滥杀。一些在汉奸蛊惑下手拿太阳旗去“欢迎”的市民,也被日军机枪扫射而死。日军士兵见到妇女即施暴奸污。一倪姓老妇人,被强奸后含恨自缢;一沈姓妇女因不堪日军的污辱,拼命反抗,被日军刀穿胸膛而死。日军大肆掠夺物资,存放在银行仓库的58370包小麦、8440包大米、5335包黄豆、3649包稻子、19712包食盐、1383件奎麻及绿麻、17900条麻袋、30722市斤麻油、4577包红粮以及油料、茶叶、食糖、纸张、布匹等,全部被抢劫一空。天成百货公司的货物,全被用卡车装走；市民家中较好的财物也被抢去。
日军陷蚌后,划二马路横铁道以东为居民区,以西为占领区。凡误入占领区者,轻则吊打,重则枪杀。“维持会”在铁路东建20多个难民所,难民们在所内生命亦无保障。有的日军士兵在难民所内奸淫妇女,致死人命后,再将尸体挂在电线杆上。日军宪兵特务在市面上，对稍有可疑者即逮捕关押,施以辣椒水灌腹、踩杠子、坐“老虎凳”、放狼狗咬、剥尸成段等酷刑。遭种种酷刑致残致死的，有居民周顺利、农民王氏丈夫及其子、农民陈张氏一家等。民国28年4月某日,市面上出现反日标语,恰好此时河南省有300多名在蚌跑单帮者,日军特务机关以嫌疑犯将其全部捕获,施以酷刑。其中的70多人，在受刑后被装入麻袋,投入淮河,全被活活淹死;其余人后来虽被保释,但多致残。
民国27年旧历端阳节,日军以丢失枪支为由,清剿市郊郑郢村。进村后，将20多名有所谓偷枪嫌疑的青年捆绑起来，集中全村乡民，用机枪逼迫交枪和说出偷枪人。在追查无着时，即砍杀数名被绑的青年,并用机枪扫射四散的群众,共20余人丧生,最后又放火烧毁数百间房屋。民国28年旧历腊月二十八日,驻蚌日军在伪清乡支队司令沈席儒部队配合下,扫荡东芦山一带,在一个村子抓住4个老人,向其要粮,老人无粮可交,日军即用刺刀将他们捅死,后又放火烧了村庄。扫荡时，发现东南麓山洼里躲藏300余名逃难乡民,当即包围,架起机枪扫射,乡民尽遭劫难。同年，在小蚌埠的清乡中，也有100多名无辜乡民,惨死在日军屠刀之下。
民国29年3月,日军将城区封锁,只留施家洼、西大坝、南岗和高庵渡口几道关卡，凡居民出入必经严格盘查，稍有不恭，便遭殴打或拘押。日军为修建飞机场,每天强拉一万多名民夫服劳役,并向居民摊派钱款。日军除从本土和朝鲜运来艺妓充当慰安妇外，还派汉奸将大观楼、得意楼、东亚饭店等处辟为“慰安所”,将骗逼而来的120余名青年良家妇女和妓女,分送各所供日军奸淫,不少人被糟蹋致死。