清代至民国初期，合肥县城建设工作由县衙、府衙主持。民国34年抗日战争胜利后，由市政工程局负责。
解放后，合肥市城市建设工作由市政府职能机构管理。为了确定城市建设重大事宜，协调各建设部门的关系，省、市党政军机关和有关部门主要领导人先后组成了合肥市政建设委员会和合肥市城市建设委员会。委员会不设专门办事机构，或虽设办事机构亦与建设局合署办公。
1976年，合肥市开始设置管理城市建设的综合职能部门——合肥市基本建设委员会。此后，其内设机构逐渐完备，管辖范围日益扩大。1983年设立的合肥市城乡建设环境保护委员会主管城市规划、设计、施工、维护、管理、环境保护、园林绿化和建材生产等项工作，成为合肥市人民政府管理城乡建设的比较完备的综合职能部门。