建国前，芜湖没有专管体育工作的行政管理机构，一直由教育行政部门管理。
建国初期，为加强对全市体育事业的领导，于1955年5月4日成立芜湖市体育运动委员会（简称芜湖市体委）。起初，由一位副市长兼任体委主任，1965年12月起，开始配备专职体委主任。
“文化大革命”中期，芜湖市体委被军事接管，大多数干部下放农村、工厂接受“再教育”。
1972年底，撤销军管，逐步恢复和健全了芜湖市体委组织机构。截至1985年底止，芜湖市体委办事机构有办公室、政工科、训练竞赛科和群众体育科。下属事业单位有重点业余体校、少年儿童业余体校、体育场。共有职工90人。
芜湖的体育运动有着悠久历史。据嘉庆版《芜湖县志》记载：明、清两朝芜湖中武举者有33人，其中有2人曾被清廷授予怀远、武德将军，1人历任河南、河北镇总兵、湖广提督，官阶一品，为清朝最高之武职。由此可见，芜湖的武术运动源远流长。其它如举石担、玩石锁、赛龙舟、放风筝、荡秋千、踢毽子、跳绳、爬竿、以及游泳、棋类等民间体育，在芜湖活动的年代也较久远。
鸦片战争之后，随着光绪二年（1876）中英烟台条约的签订，外国资本主义势力入侵芜湖。他们在芜湖立海关、辟港口、划租界、建教堂、办学校，大肆进行经济侵略和文化侵略。此间，通过外国水兵和教会学校的外籍教职员，开始传入了足球、篮球、田径等西方近代体育项目。二十世纪初，反清革命党人陈独秀等来芜创新学、办报纸，竭力提倡体育，推动近代体育的发展。但那时的芜湖近代体育活动，主要是在新式学堂和教会学校中开展，民国之后才逐步推向各级各类学校。
二十世纪二十年代起，学校体育开始影响到社会。到三十年代前后，芜湖社会上的球类活动已相当活跃，曾先后涌现出“五覆队”、“夜猫队”、“火星队”和“友联队”、“健美队”等社会篮、足球队。他们不仅活跃在芜湖球坛上，有的还自筹经费，出征邻近各县和外省县，籍以切磋球艺，提高水平。
民国十二年（1923）至民国二十五年（1936）间，芜湖曾选拔优秀选手参加了四届省运动会和六届华中运动会，在男子田径、女子篮球等项目上取得优异成绩。
随着近代体育的传播和发展，1929年芜湖继安庆之后开始筹建体育场。我省体育界前辈俞子箴曾于1932年著文称赞芜湖体育场“场地虽小，设备不全，因办理妥顺，无日不有人活动”。
抗日战争爆发后，芜湖不少学校辗转到大后方和山区办学，芜湖体育日趋冷落。抗战胜利后，虽有所恢复，但由于国民党政府发动内战，人心浮动，因而起色不大。
中华人民共和国成立后，在中国共产党芜湖市委和芜湖市人民政府的领导下，芜湖体育运动有了很大发展，取得了前所未有的成就。
1949年至1965年，着重建立健全全市体育领导机构和群众团体。创建青少年业余体校和射击、航海等军事体育俱乐部，开办各种体育训练班，广泛开展群众体育活动，并相应建设了一批体育场地设施。1959年至1965年，还举办了三届规模盛大的全市运动会，参加了两届全省运动会。
在此期间，芜湖体育事业虽然也同样受到1958年“大跃进”的冲击和三年经济困难时期的影响。然而，经过1961年认真贯彻执行“调整、巩固、充实、提高”的八字方针后，很快走向正常。
1966年“文化大革命”开始后，芜湖体育系统作为重灾区之一，损失惨重。直至1972年下半年撤销军管并恢复市体委建制后，才逐渐有所恢复。次年即组队参加了全省第三届运动会，获得四个团体冠军和21个单项第一名的好成绩。
1976年10月粉碎“四人帮”后，尤其是党的十一届三中全会以来，迎来了建设新时期，也迎来了体育的第二个春天。“体育热”逐步遍及城乡，不仅青少年儿童参加体育活动的越来越多，而且老年人体育、伤残人体育、幼儿体育也蓬勃兴起。先后涌现了160多个体育先进单位和先进集体。业余训练工作不断加强，到1985年，市级业余体校已发展到14个训练项目，学生254人；体育传统项目学校26所，学生614人。随着群众体育和业余训练工作的发展，竞技运动水平显著提高。仅在全省第四、第五届运动会和全省首届青少年运动会上就获得金牌102枚，破省纪录39项次。在1980年至1985年期间，芜湖市输送到省体工队和省体校的优秀运动员、运动健将马建平、齐建国、杨青、邱明、翟迎建、方敏、方坚等，共荣获全国比赛前三名奖牌84枚，亚洲比赛前六名奖牌12枚，洲际和世界比赛（含第九届亚运会、世界杯赛和23届奥运会）前八名奖牌17枚，为我省和祖国赢得了荣誉。十年来，芜沏市体育场地建设也有较大的发展，据1983年对全市体育场地设施的普查统计，芜湖市区（含郊区）共有体育场地设施220个，其中体委系统11个，其它系统209个。