一、建国前的小学教育
清末，区内各县相继兴办小学堂。光绪二十六年(1900年)，潜山高等小学堂创立，开风气之先。继之有怀宁县风鸣高等小学堂、公立皖江初等小学堂、公立尚志小学堂、公立枞阳镇小学堂的创立。光绪二十八年，怀宁县又有两等小学堂创立。光绪三十年，怀宁县有公立育正两等小学堂和公立务实两等小学堂，桐城县有公立崇实高等小学堂。光绪三十一年，区内又有了最早的私立小学堂--怀宁私立敦义学堂。
安庆原为安徽省垣，故得兴学堂风气之先。从光绪二十八年清政府公布学堂章程起，至辛亥革命的10年中，所建官立、公立小学堂计有：怀宁26所、望江4所、宿松7所、贵池6所、桐城6所、东至境内5所。上述小学堂一般规模小，学生少。至于私立小学堂，数量很少，据光绪三十四年统计，全区仅9所。安庆地区早期创办小学堂诸人，多为学界耆宿或地方名流，如教育家邓绳侯创办怀宁县两等小学堂，陈独秀曾在校讲课。教育家童峰在桐城县枞阳镇创办化俗女子小学堂，首创安庆女子教育。
民国始立，学堂一律改为学校，初等小学堂则改为国民学校。民国元年，怀宁创办高、初两等小学5所，初等小学15所；桐城改办和新设高等小学5所、女子小学5所；其余各县亦有数量不等的初等或高等小学。当时区内虽有不少热心教育事业的人士辛勤办学，但自民国建元后的十余年中，安徽处于军阀统治下，战乱频繁，教育经费支绌，严重影响了初等教育发展。民国16年(1927年)秋，“除省立少数学校开学外，各县小学大多停闭，竟有全县无一所学校开学者。”民国17年以后，安徽政局相对稳定，区内初等教育经过改组、合并、充实和发展，到民国18年，共有公、私立小学427所(女子小学5所)，学生13274人，教职工958人。当时小学虽有较快发展，但有一部分是由私塾转办的，教学内容与教育部颁布的教学计划不尽相同。
民国24年，省政府规定全省9至12岁失学儿童，5年内至少应受1年义务教育，10年内逐渐达到四年制义务教育。区内各县一方面扩充学额，推广初级小学，将原单设的高小扩充为高初两级并设的完全小学；另一方面办理短期小学(一年制)，以满足实施“义务教育”的需要。据统计，当时江北6县有小学776所，其中短期小学200所。民国26年冬，日军入侵江淮地区，小学教育又一次受到严重破坏，校舍被毁，师生流散。至民国28年战局稍定，各县原有公、私立小学渐次恢复，省府又在区内6个县设有省立临时小学8所。同年，安徽率先推行“政教合一”新县制，将原有县区公私立小学一律改为乡(镇)保小学，校长由乡(镇)保长兼任。民国31年又改乡(镇)小学为中心学校。改保小学为国民学校。民国33年据国民政府令，乡(镇)中心学校一律改称中心国民学校。其特点是将义务教育与失学民众补习教育合并实施，中心国民学校和国民学校既办儿童教育又办成人补习教育，不再称义务教育。
抗日战争中，怀宁、望江、宿松、贵池、桐城、东至等沿江地区被日军占领，日伪政权亦开设小学。在教学上，他们以宣传投降卖国和奴化思想为主，设置的课程中增加了日语的份量。
抗日战争胜利后，各收复县县政府迅速派员接收了区内日伪办的小学。不久，遵令将接办各校一律改设为中心国民学校或保国民学校。此后，区内小学有所增加，其中私立小学发展最快。因国民政府层层克扣教育经费，私立小学教师的待遇一般超过公立小学教师一倍以上，致使公立小学逐渐萎缩。
新中国成立前，安庆地区是鄂、豫、皖边区革命根据地的组成部分，苏维埃政权积极发展小学教育事业。民国19年(1930年)5月在岳西头陀河创办列宁小学，设初、中级两个教学班，学生60余人。小学设国语、算术、常识、习字、珠算、军体等课程。同年6月，汤池区农民识字学校(实为全日制小学)，设初、高级两个教学班，招收贫苦工农子女80多人入学。民国25年红二十八军便衣一分队在岳西磨刀坪创办了一所红军小学，教材除用私塾启蒙课本外，还编写了《先苦后甜三字经》。后因战争形势恶化，苏区学校相继停办。
二、建国后的小学教育
1949年4月底，安庆地区全境解放，各县政府接收原有的乡镇小学，一律改为公办，并将大部分私立小学改为民办。江北8县当时有小学921所，入学率很低。各县只得在原有基础上，重点办好几所区完全小学，同时辅以公办乡小、民办村小及私立学校，逐步形成点面结合，公、民并举的初等教育格局。1950年，江北8县计有各类小学近1000所，班级学额增加，儿童入学率也相应提高。
1951年，区内民办小学得到较大发展，当年江北8县共有2718所，是公办小学(279所)的9．7倍，出现了建国后第一次群众办学的高潮。1952年全区小学总数达3623所，学生211761人。同年8月，各县将全部民办小学转为公办小学。1953年，区内全面贯彻了国务院颁布的《关于整顿和改进小学教育指示》，加强小学正规建设，完善各种规章制度。经过调整、整顿，全区小学约精减10％，教学质量有明显提高。
1954年，全区遭受特大洪灾，半数以上的小学被毁。灾区各小学根据不同情况，采取送教上门、办早晚班、田头教学等方法进行补救。非灾区学校积极支援灾区学校，努力扩充班级学额，吸收就近灾区和转移来的儿童入学。当年仍有各类学校1534所，在校学生91349人。1955年，全区小学开始贯彻落实德、智、体、美全面发展的教育方针，建立以教学为主体的质量管理。1956年，区内各县都制定了教育事业发展的十二年规划，计划在短期内普及小学教育，当年全区在校生达到280548人。1957年，“反右”斗争在区内全面开展，小学教师受到冲击，严重削弱了小学教育的力量，各县教育事业发展规划未能完成。
1958年，为贯彻中央“两条腿走路”的办学方针，区内再次掀起群众办学热潮。当年计有学校4157所，学生427805人。其中怀宁有民办308所，宿松有民办312所、太湖有民办99所、桐城有民办63所。为了配合“大跃进”的形势，许多学校办起小工厂来大炼钢铁，还制定出很多不切实际的规定，造成教育质量严重下降。1959至1961年，因经济困难，各地小学都有所减少，在校人数不足。1961年，为贯彻国民经济“调整、巩固、充实、提高”八字方针，专区初等教育进入调整阶段，对“大跃进”中办起的各类小学，分别作了保留、停办及合并处理。通过调整，年底全区实有各类小学2645所，比1958年减少1512所。1964年9月，全区又掀起了大办耕读小学的热潮，据桐城、怀宁、潜山、太湖、宿松、贵池等6县统计，一年间开办的耕读小学有3459所，入学学生148478人。耕读小学有半日制、早晚制两种，其特点是“小型分散、灵活多样、便利入学、不误生产。”后因师资、校舍、教材、经费都不充足，使耕读小学的发展受到很大限制。
1966年“文革”开始，区内15％的教师受到批判、管制或下放的处罚。全区耕读小学全部停办，民办小学也呈半开半闭状态，公办小学正常教学秩序完全被打乱。这一时期儿童入学率大大下降，由91％降到65％。1968年12月，《人民日报》发表侯振民、王庆余来信，建议公办小学一律下放到大队，教师不拿工资拿工分，由贫下中农管理学校，致使区内小学教育面临无所适从的境地。1970年废除考试制度，1971年又大批“师道尊严”。贫下中农走上讲台，小学教育处于无政府主义状态。1972年周总理主持中央工作，教育事业出现生机，学校教育秩序稍加稳定。1973年，由于宣传“白卷英雄”张铁生，学校教育又陷入混乱。直到1976年粉碎“四人帮”后，区内小学教育才开始恢复正常秩序。
中共十一届三中全会后，各县恢复了校长责任制及中心小学、辅导小学，并确定了地区的重点小学。1980至1981年，遵照中共中央、国务院《关于普及小学教育若干问题的决定》，各县召开了教育工作会议，决心脚踏实地地办好一批重点小学和中心小学，把普及规划落实到区、乡、村，并鼓励勤俭办学、集资办学。1982年全区有小学6663所，在校生881987人。1983年，教育部再次发出普及小学教育的通知和规定，各县都按照地委要求调整了普及规划。据1985年统计，全区小学平均入学率为96.5％，学校6330所，在校生达907004人。1986年，国家《义务教育法》颁布，对巩固小教普及成果、促进九年制基础教育的普及，提供了法律保证。1987年全区小学略有压缩，计有5831所，在校生821880人。