旌德县是“万山丛中一小邑”。所有水田中，山田占很大比重，其中全靠下雨灌溉的张水田就有2万余亩。因土质多沙，难以蓄水，天旱田皆龟裂，暴雨即刻成灾。历代劳动人民为抗御自然灾害，利用当地丘陵、平畈交错，便于挖塘蓄水的特点，兴修了大量水利工程，制造了许多水利工具。宋《旌川志》载，当时全县有塘140余口。元代县尹王祯《农书》中的“农器图谱”对水利工具水转翻车、轮筒、高转筒车、水转连机磨和闸坝等均详尽地作了介绍。明代人工开凿的江村聚秀湖，周广16亩，灌溉面积100亩；明末清初兴筑的隐龙湖，湖面36亩，能灌田380亩；乔亭堃湖，湖面20亩，灌田200余亩。乾隆时期还兴建了三溪官坝以及各地陂塘164处。
民国时仍以修塘为主，疏河为辅。民国7年(1918)始筑孙村金河坝。民国23年疏导河渠5处，受益田1.5万亩。民国26年重修三溪官坝。民国28年修塘315口。至1949年全县共有大小水塘6229口。这些塘规模很小，效益不大，总灌溉面积仅2．63万亩，平均每口塘仅能灌田4．2亩。
建国后的1949～1957年，水利兴修以小型塘、坝为主，当年受益为主。1950～1952年，全县新建水塘133处，1953～1957年续建873口；至1957年底，灌溉面积达3．54万亩，比1949年增加9100亩。
1958～1965年，由于农业体制变革、生产规模扩大，加之大面积种植双季稻，使农业用水量激增。在全面“大跃进”的形势下，对水利建设提出了“大队要有当家库、小队要有当家塘”的口号，建设了一批新工程。1959年3月在庙首鸡公山建成全县第一座小(二)型水库，有效灌溉面积300亩。1962年5月在三溪溪潭建成第一座机灌站，1963年3月在新桥建成第一座水轮泵站。1964～1965年动工兴修雪里、土桥、枫树坞、社屋里、郭家庄5座小(二)型水库和双河公社龙山小(一)型水库。至1965年底，全县共兴建小(二)型水库8座，小(一)型水库1座。这些工程大多施工粗糙，质量较差，且周期长，未能很快竣工兴利。
1966～1979年“农业学大寨”时期，全面掀起了以治山治水、改河造田为中心的农田水利基本建设高潮，一大批新的水利工程在边勘察、边设计、边施工的情况下纷纷上马。1979年底，全县有29座小(二)型水库、2座小(一)型水库、9300余口水塘。新建工程中，有些塘库质量不高，未能发挥应有的灌溉效益。
1980年后，水利建设以除险、加固、配套、挖潜及综合利用为主，根据险情轻重分级负责，对险、病库分别治理，使之完善。同时加强经营管理，讲求经济效益，实行水利管理承包责任制。
经过几十年的艰苦奋斗，至1987年，全县有小(一)型水库4座、小(二)型水库32座、水塘7074口，蓄水总量2559万立方米；引水堨坝1371处、电灌站31处、机灌站6处、小水电站13处、水轮泵站11处，总有效灌溉面积12．3万亩，占水田总面积的82．9％；旱涝保收面积6．1万亩，占有效灌溉面积的49．6％。