民国15年后，合肥先后几次发生战事，国民政府为保卫合肥，均成立城防司令部或警备司令部。
城防部队
民国15年2月，国民革命军暂编第5师进驻合肥，将部队扩编为3个旅。4月，北洋军阀张宗昌率10万人马由徐州进逼合肥，目的是阻止北伐军的攻势。蒋介石令马祥斌防守合肥。马祥斌即以所部3个旅1万余人在合肥布防并担任合肥城防司令。城防司令部主要由马祥斌的暂编第5师司令部组成，合肥县长鲍庚，县自卫团负责人季雨农及地方绅士亦参与城防的筹划：主要兵力在城西、城北丘陵地带掘壕据守；部分兵力以城墙为工事瞰制城外第一线阵地，起二线作用；另有部分兵力守卫补给线南淝河。防守合肥战斗持续近1个月。解围后，马祥斌率部离开合肥进攻寿县，合肥城防司令部随之撤销。
民国27年5月，日军进攻合肥，国民政府第26集团军徐源泉由河南赶赴合肥地区担任防御，合肥巢县等地保安团、常备队等奉命配合正规军作战。原独立第40旅旅长宋世科任合肥警备司令部司令，辖保安第5、第7两个团，受第26集团军司令徐源泉直接指挥。5月13日，警备司令部所属部队担任外围警戒，其中1个团以第2营在安合公路的二十铺一带设防，对上派、中派、下派一线警戒。战斗开始后，宋部退入城中。在日军突入城中后，有一部叛变投敌，合肥城于14日失守。“合肥警备司令部”的番号撤销，宋世科所部编入国民党正规军。
民国34年，国民党安徽省党、政、军机关陆续由立煌县(今金寨县)迁往合肥。
为保障省会安全，省属保安部队加强了对合肥的警备。组织指挥由省保安司令部(驻合肥)负责，其防卫兵力及部署为：民国35年，保安第1团大部驻合肥城，其第2大队驻撮镇。民国36年，保安团改编为保安总队，以第1保安总队、第2保安总队各1个大队及省保安司令部独立大队共3个大队驻合肥担任合肥城防。另有第5保安总队1个大队驻下塘集，负责淮南铁路警备。此时，属于合肥县政府的保安警察大队有9个中队，官兵954人，也参与合肥防卫。整个合肥警备力量约2000人。
民国36年7月，人民解放军刘邓大军第3纵队8旅23团于9月8日占领舒城，威胁合肥。国民党当局急令保安第1总队夏德仁率2个大队前往阻截，于合舒边界的桃溪镇发生战斗，夏部几被全歼。
桃溪镇战斗使合肥全城震动，国民党当局一面急调主力部队整编第88师等部由徐州移防合肥一带设防，一面成立合肥城防司令部，以安徽省保安司令部副司令张湘泽兼任城防司令，以前合肥县长、安徽省供应局副局长刘文潮、第74师51旅副旅长冯继翼兼任城防副司令。城防司令部隶属驻蚌埠的第8绥靖区。
城防司令部下设：参谋组、副官组、军法组、稽察组、民事组、保管组、采购组6组，共40人，主要来自第46师，少数由第8绥靖区、省保安司令部、合肥县政府派入。办公地点初在省保安司令部驻地大书院内。
民国37年1月，城防司令部增加第46师少将高参张权为副司令。同年11月中旬，城防司令部改称城防指挥部，以第46师师长谭何易兼任城防指挥部指挥，以省保安司令部副司令张湘泽兼任副指挥，指挥部下设机构依然是各个组，驻地明教寺。(城防指挥部成立仅月余，便随着安徽省政府南逃安庆而撤销)
合肥城区防卫部署分东、西、南、北4个防区。城东区由第8绥靖区特务营防守(营长莫尔刚)，城西、北、南地区均由整编第46师防守，部队为188旅523团3营，175旅524团3营和19旅56团一部。另设炮兵指挥部，先后辖88师炮兵营、176旅山炮营、48师野炮营。安徽省保安司令部独立大队担任各机关警卫任务。
国民党当局从民国38年1月起，为集中力量“清剿”皖西各解放区，合肥城防未能配置建制完整的部队。“清剿”中不断变更部署，部队调动频繁。合肥守军，除上述担负东西南北区防卫任务较固定的部队外，尚有第48师520团、527团、第74师51旅等部队，在合肥城内短时期驻守并构筑了工事。
民国38年1月20日，刘汝明兵团残部第68军(所辖81师的2个团于民国37年12月下旬由宿县地区撤至合肥)军长刘汝珍在《合肥日报》发告示宣称“驻防斯地，绥靖地方”。次日，人民解放军华东野战军先遣纵队4支队1大队(大队长李秀凤、政委齐平)，带2个连从磨子店出发解放合肥，刘部为掩护撤退，在东门城楼上向解放军猛烈开枪开炮，造成先遣纵队10多名官兵伤亡。刘部逃走后，县城由民盟组织所控制的县政府及所属自卫队4个中队看守，当日即迎接解放军入城并交出城防。
城防工事
民国23年，国民党当局以重兵围剿大别山区的红军根据地，“豫鄂皖三省剿匪总部”下令各县大造碉堡，以堡垒战术限制红军机动。合肥县这年共在城乡修建碉堡3988个，以后又完成碉堡899个。民国26年11月，由沪淞战场撤退的国民政府军队第21集团军廖磊部开赴安徽省，其一部部署于合肥城设防。该部以半年时间耗资20万元在合肥城郊修筑大量的防御阵地，形成了外围阵地与城墙相结合的较完善的城防工事体系。后第21集团军部队移防，由第26集团军接替防务。第26集团军依托既设阵地和优势兵力抵抗日军，仅防守1日便将合肥丢失。战后国民政府军队淮南总指挥李品仙向李宗仁汇报战况称：“……此次失事原因，该48、199师官兵大半未经战阵，临敌张惶……又未派守城部队与城防司令，因此最后又未据城固守”。
民国36年下半年，中国人民解放军刘邓大军进军大别山。国民党当局合肥城防司令部组织人力、物力，于民国36年9月3日开始突击修建合肥城防工事，至12月22日历时3月余，共用工87540个，完成碉堡274座，挖掘城壕20里，初步完成城防工事体系。此项工程耗费材料费10亿元(当时货币)。这一时期构筑的城防工事基本属于应急性的。进入民国37年，国民党当局继续修筑城防工事，仅年初就从上派、中派等30个乡镇征用民工22893人，完善水西门至小南门城壕工程，各乡民工完工时间1～20余天不等，共用工28419个。根据城防司令部征集组统计，这一时期全部工程共征用民工51344人。安徽省政府当局决定进一步加强合肥城防工事。预测算为耗资1000亿元，其中400亿元，省参议会拟向合肥居民摊派，结果引起骚乱，最后不了了之。两期城防工事，所需材料均征自合肥工农商各界，部分给予资金补偿。是年下半年，第二期城防工事修建，突出了城墙与护城河的作用，并分段编号码，便于守军识别，沿城墙基每隔30～50米，修工事一座，多为土木结构，其作用为屯兵、防炮、防空袭，重要地段亦可构成火力点。将城墙外树木一律清除，以扩清射界；将环城河全部加宽至50米，并清除淤泥。为抬高护城河水位，在东门外修建水闸一座。在各要道口均筑碉堡，设置了拒马、竹钉、铁丝网、探照灯，部分地段还架设了高压电网。