清代以前，水利建设由县令(或知县)亲自主持。民国时期，县政府设建设科，负责水利兴办事宜。民国22年(1933年)颍上设立水利工程委员会及工赈工程总队部，主持筑堤、建闸等工程。黄泛时期，成立导淮工程处，但空有其名，并无“导淮”之实。
新中国成立后，1949～1950年10月，农田水利工作由建设科负责。1950年10月，成立颍上县生救治淮总队部，县长兼总队长，县委书记任政委。1951年3月，生救治淮总队部改称颍上县治淮总队部，专门负责治淮工作。1952年初成立颍上县农田水利委员会，县长兼主任，建设科长任副主任。1953年7月1日，撤农田水利委员会，设农田水利科。1954年1月1日，撤治淮总队部，设水利科。1955年春，成立颍上县治淮工程管理所。同年冬，恢复颍上县治淮总队部。1956年4月，建颍上县水利局。1958年，改称颍上水利电力局。1962年7月，改称颍上县人民委员会水利科。1964年6月，恢复颍上县水利局，同时建立颍上县淮河修防所。1967～1970年10月，水利局和修防所组织瘫痪。1970年10月22日，成立水利电力局，1980年5月，改称颍上县水利局。