清朝末年至民国时期，芜湖司法行政事务一直由政府部门直接管理，或由法院兼管，未设独立的专职管理机构。
1949年4月，芜湖解放初，市人民政府民政局内设司法科，分管审判和司法行政工作。1950年，市人民法院建立，司法行政业务并入法院行使。1956年5月，建立芜湖市人民委员会司法科，届时，司法行政工作开始有了独立的管理机构。1957年8月，市人民委员会司法科被撤销，保留公证处的法律顾问处名义，司法行政业务又并入法院行使。从此作为独立管理机构的司法行政工作中断22年。1980年重建市司法局，内设办公室、政工科、调解科、宣传教育科、公证律师科等职能科室，下设公证处和法律顾问处。1985年12月，又新设经济律师事务所。此时，芜湖市的司法行政工作，由开始重建进入到一个机构比较健全、各项业务有了全面发展的新时期。
市辖6区，于1984年6月各设司法科，同时还分别在市区19个街道办事处和郊区7个乡各配司法助理员一名。