清朝以前，凤阳办学形式主要有县学、书院、义学、乡学、私塾等。自清初至光绪二十七年(1901年)废止科举，全县共有文武进士及文武举人128人。
清光绪三十年七月，始兴办凤阳县高等小学堂。光绪三十三年，在府城府东街设凤阳府师范学堂1所。至清末，全县仅有公立小学6所，私立小学5所，中等学校、中学堂、师范学堂各1所。
民国2年(1913年)各区多用自治经费办学，民国4年奉令将城乡各两等(初等、高等)小学专办初等，其高等生则并入县一、县二两所高等小学。又就自治区划分学区，每区设学董并学委委员，办理该区教育事宜。民国8年，劝学所成立，继一、二高小后陆续增设县立第三至第九高等小学。民国13年，因呈准以地厘、肉捐等为各区教育经费，此后各区小学岁有增设，民国15年，全县小学增至400余所。民国16年北伐战起，全县小学几乎停办，后虽力谋恢复，亦未能尽复旧观。据民国18年教育局统计，全县计有完小4所、高小10所、初小84所。民国时期中等学校有省立五中、省立第五师范(先附属于五中，后单立)、省立三女中(后迁怀远)。
抗战时期，日军占领府城，伪凤阳县政府招收百余名学生，命名为“凤阳中学”，强令增设日语课。此时全县仅5所小学开课，学生不足千人。抗战胜利后，全县小学逐渐恢复。民国35年，全县有乡、保国民学校112所，有省立凤阳师范、县立凤阳中学、凤阳简易师范及私立中学6所。
建国后，全县教育事业稳步发展。1949年，全县仅有小学190所，在校学生13949人，教职工687人；中学1所，在校学生97人。至1985年，全县有幼儿园16所，小学372所，普通中学42所，中等师范1所，职业中学5所，全县在校学生达102973人，专任教师3810人。