绩溪地处皖东南，属徽州东鄙，为宣(州)徽(州)之要冲，境内崇山峻岭，形势可守。宋明以后四境筑有关隘，驻兵防守。丛山关是徽州第一要口，浙赣之屏障，屡次战事证明，丛山关失守，则郡城陷落。明末州府沿山垒石关，建为要塞，重兵防守。
历代封建王朝更迭，境内常有兵事。自东汉建安十三年(208)孙权遣将贺齐进击歙县始，迄清同治三年(1864)太平军转战境内止，重大兵事可考的有28起。国民革命军北伐时期革命军和军阀败军过境数十万众，曾有战斗发生。抗日战争时期先后驻军约十余万人，为第三战区后方基地之一。江苏省江南行署曾退驻绩城，大批难民流徙境内。
中国共产党领导革命武装斗争后，县境的人民革命武装渐起。1934年12月红军北上抗日先遣队寻淮洲部横跨县境中部80余华里，红军游击队多次在山区活动，宣传革命道理，播下革命火种。1940年12月党在绩旌边界的黄高峰建立皖南山地中心县委开展皖南游击战争，次年10月建立游击根据地，人民革命武装和民兵迅速发展，根据地逐步扩大，1948年冬占领全县农村，1949年4月30日绩溪解放。