北宋·元符三年（1100），芜湖建县学宫（文庙），崇宁二年（1103），黄裳撰文，米芾书《芜湖县学记》，勒碑植于文届大成殿东侧。明、清间，芜湖先后设阳明、求仁、滴翠、龙门、荆山、中江、鸠江、天门等书院，为讲授儒学之所，民间则有私塾绵延，教蒙童、少年识字读经。
清·光绪二十一年（1895），徽宁池太广道员袁昶改造中江书院，增设实用学科，初具近代学校之雏形。清·光绪二十二年（1896），状元坊有育英学堂，为外国传教士所办。清·光绪二十九年（1903），皖南道刘树屏就中江书院改办为皖南中学堂并附小学堂，（同年，中学迁赭山，易名皖江中学堂）始开芜湖官办近代中小学之先河。师范教育、幼儿教育始自光绪三十一年（1905）之安徽公学速成师范及光绪三十四年（1908）之安徽全省公立女子师范学堂蒙养院。以实业学校为起点的职业技术教育建基于民国初年的省立“二甲农”（安徽省立第二甲种农业学校，亦简称“二农”）和“一甲商”（安徽省立第一甲种商业学校，亦简称“甲商”、“一商”）。芜湖高等教育之先声源于宣统间的皖江法政学堂与中江法政学校。民国二年（1913）出现的平民学校，便是芜湖社会成人教育之开端。
本世纪初叶已具规模的省立五中、二农、甲商、第二女子师范及私立圣雅阁（广益）、萃文、芜关等中等学校，延续至40年代末，它们对芜湖乃至安徽近现代教育的奠基与发展，对地方文化水准的提高，起过重要的历史作用。
“五·四”前后，芜湖县城有小学校30所，普通中学7所。师范、职业学校4所，还有小学附设幼稚园，新式学校之发达，居省内各县城区之前列。
20年代至30年代初朗，芜湖城区学校迭起。先后办有公私立小学80多所，中学校20多所；职业学校有工有农有商，有医科，有师范，还有过工业专门学校。幼稚园（班）入园幼儿最高年份为550余名。市民识字学校有贫民夜校、民众学校、妇女工读夜校、工人义务学校。但由于条件过差，经费困难，一些中小学办理时间短暂，效果有限。后几年普通中学停办三分之二，减至8所，其中属于教会办理的占半数，女子中学有3所。
日军入侵，芜湖沦陷，3所省立中等学校师生星散后，一部分流离至湘西；私立中学1所辗转巴蜀，3所内迁皖南，两所停办。民国二十七八年（1938—1939），原有教会办的中等学校5所相继开学。其中职业学校1所，于民国三十一年（1942）停办。日伪当局办有普通中学2所、商业中学1所。中学生总数不过千余人。小学恢复开办和新办的曾达34所。抗战八年间，市民和师生坚持反抗奴化教育，抗日武装不时进击日伪据点，社会震荡不安，学校时停时续。
抗日战争胜利后，芜湖各类学校相继恢复，且有新校设立，再度呈现增长趋势。小学校50余所，学生总数逾万人。普中13所，学生3千多人。职业学校8所（含简易师范），学生1千多人。尚有民众夜校、商业夜校和全省唯一的聋哑学校。本省第二所高等学校——安徽学院迁来芜湖赭山，学生7百多人。各级各类学生总数约达1.7万，占城区人口的十分之一。但从人口文化状况看，其时具有初小以上学历的只占23.3％，大量文盲半文盲充斥社会。
1949年5月，新成立的芜湖市人民政府接办了原省、县立中等学校（含县立师范）和小学21所，接管私立中学10所，小学28所，职业学校5所，代管安徽学院。当年秋，原国立安徽大学由安庆迁芜与安徽学院合并，成立新的安徽大学。
三年经济恢复期内，人民政府接收了各教会办理的私立中小学（13所），并开始分批接办其他私立中小学（含聋哑学校）。土地改革后，农民踊跃学文化，乡村竞相办学校，群众纷纷送子女上学读书。1952年，全市小学增至133所（含原芜湖县第八区划入小学23所），在校学生2.5万人，较之解放初增长1.5倍。普通中学经调整为9所，而在校学生却比三年前增长30％。职业学校经两度调整后新增4所（含皖南师范）。职工业余文化学校和市民群众（妇女）夜校58所（班），学员8千多人。市郊常年民校和冬学182所（教学点），学员9千多人。
50年代中期，芜湖学校教育得到比较健康的发展。1956年，公办幼儿园5所，小学附设幼儿班14个，共收幼儿1350名。小学校经统一布点调整为91所，学生2.88万人。普通中学11所，学生人数近万。职业学校仍为7所，而专业有所更新，规模有所扩展。各类职工业余学校50所（含职工、干部业余中学和工农速成中学），还有马列主义夜大学，在校学员总数近两万，可谓鼎盛一时。
“大跃进”年代，学校数量激增，尤以职业技术学校和幼儿园更为突出。地方一些部门和企业自办中、初等职业（农业）技术学校13所，和半工半读中等技术（技工）学校14所。民办幼儿园45所，小学校增加78所，普通中学增加5所。7所中专学校有5所改办或兼办专科学校。后遇粮食困难，中学流生现象严重，职工学员数下落逾万。1961年，贯彻调整方针，办学条件不足而仓促上马的专科学校、地方职业技术学校与一些幼儿园，纷纷停办或合并。
国家主席刘少奇倡导“两种教育制度”，1963年起三年间，芜湖一些工交部门、郊区公社和教育部门重办或新办中等职业、技工、半工半读、半农半读学校，计16所。至1965学年度时，上述学校中属于高中程度的在校生（1294人）与6所中专（含师范）在校生（2742人）之和，占当年高中阶段在校生总数（6041人）的67％。市郊耕读小学数有较大增长，全市小学在校生达到5.7万人，为十七年间之最大数量。幼儿园24所，其中公办幼儿园11所。芜湖成为当时全省教育部门办园最多的城市。
“文化大革命”浩劫十年。芜湖地方办16所职业、技工、半工（农）半读学校因倡导者被“打倒”而无一幸免地被关闭（或改办）。办学基础相当巩固的12所中等学校（普中8所、中专3所、机关干部学校1所）被加罪“古、大、洋、修（修正主义）”而强令下迁农村。620位中学教师被迫携带户粮关系，随校下迁“接受再教育”。本已遭打、砸摧残的校具、教具、仪器、图书损失罄尽。芜湖教育元气大伤。继而片面追求“大普及”，普及初中以至初中三年级学生（除年龄稍大下放农村外）一度全部升高中。34所小学兼办初中，其中21所后来改为中学（及其分部），所有中学一度都设高中部。为解决儿童入学问题，工厂办职工子弟小学54所，街道居民委员会办抗大（所谓“抗大”式）小学95个点。一时虚假繁荣，质量并无保证。在芜高校与中专于停止招生5年后，1971年起相继接纳工农兵学员。面临浩劫，广大教育工作者历尽艰辛，坚持教学。
党的十一届三中全会后，芜湖教育有了根本性的转机。指导思想日益明确，学校内部有所整顿，教学制度渐次恢复，教学秩序转入正常，办学条件逐步好转，教职工生活待遇得到改善，教师教书育人的积极性高涨，教育质量不断提高，中等教育结构不合理的状况开始改变，职业技术教育迈出新的步伐，初等教育已达到基本普及水平。1982年第三次人口普查表明，芜湖市具有初中以上文化程度人员及初中以上在校学生，占12岁以上人口数的56.92％。
1985年，市区有各类幼儿园（厂办、民办、公办）58所，在园幼儿计1.4万余名，入园率为91.4％；小学校125所（含厂办），在校小学生3.98万人，普及率为99.2％；普通中学32所，（含厂办，其中初级中学16所），在校中学生2.48万人；中等专业学校与技工学校13所，学生3479人；教育系统自办职业高中6所，自办或与有关部门联合办理或企业自办之走读中专班、职业班、职业中专班计89个，学生3983人。当年，中专、职业、技工三类学校招生数之和与普通高中招生总数之比已达一比一。业余学校、在职中专和成人高校（含函大、刊大、夜大）计56所（班），学员2.2万人。省属和市管全日制高等院校5所，在校大学生0.94万人。还有聋哑学校和弱智儿童班学生207人。各级各类学校在校生总数为10.19万人（不含在园幼儿数），占市区总人口的20.73％，平均每万人口中有小学生809.7人，初中生390.3人，高中生185.8人，中专、中师、中技生62.2人，大学（专科）生183.5人，业余学校（含成人中专、成人高校）学员357.8人。至此，芜湖市已初步形成从学前教育到高等教育，门类比较齐全，比较发达的教育体系。