1938年夏合肥县政府迁入西乡，国民党县党部先后在官亭、高刘、山南、双河、三河等地区建立5个区党部和100多个区分部。1945年，抗日战争胜利后，合肥县政府迁回城内，合肥县党部对所属区党部进行改组，缩小管辖范围。经过改组，肥西境内有近40个区党部，分部变化不大，据1951年统计，原有党员1781名。
1938年至1939年，抗日战争初期，国民党员、皖北人民抗日自卫军第二路军总指挥李武德在兼任合肥县长期间，联合新四军和人民游击武装积极对日作战，曾在肥西境内的六合公路沿线和火龙地卅岗等处打击日本侵略军。他在兼任合肥县人民总动员委员会主任期间和在动委会任职的共产党员(未公开暴露身份)耿家书、李维之等人工作很协调，为动员各阶层人士参加抗日救亡运动起了积极作用。李还曾委托驻在西乡周老圩子的新四军八团团长周骏民，就地处理圩内暗通合肥城内的汉奸不法分子(因周曾请他去处理)，互相配合很好。但这种团结局面至1939年底，因李被免去县长职务离开后，就被国民党合肥县党部书记长路世奎不断制造事端所破坏，迫使共产党员田兰田、李维之和一些进步青年纷纷撤离。
在肥西的国民党员中，有许多人在军政界担任要职，他们秉承上级旨意，残酷迫害共产党员和进步人士。1945年底，共产党所领导的新四军二、七两师及所属党政军机关奉命从巢湖两岸及肥西境内撤出，去山东解放区。随后，国民党军一七一师，安徽省保安团和皖北游击第十纵队进入原新四军驻防的地区。他们驻防不久，即和当地区、乡、保人员连成一气，在“宁错杀一千，不放走一个共产党员”的口号下，在高刘、雷麻、焦婆、三河、中派、大潜山等老游击区对抗日干部及许多无辜人民以“异党分子”、通匪等罪名，大肆搜捕，妄加迫害。并秘密设立“调查室”、“自首处”和特务情报组，专门从事搜捕共产党员和抗日干部，进行严刑逼供，胁迫自首。致使肥西全境的共产党秘密组织受到严重破坏，许多人被关被杀。同时，他们还和一些大地主、土豪劣绅勾结一起，对广大人民进行残酷的压迫和剥削，拉夫派捐，迫使一些贫苦农民拖儿带女外逃。