古代芜湖，司法行政合为一体。1902年经清政府批准，芜湖商埠巡警局成立，为近代芜湖政法机构之始。1910年，芜湖地方审判厅和地方检察厅成立。1911年辛亥革命后，警务公所（由芜湖巡警局缩编而成）改为警察厅。1927年3月北伐军进驻芜湖，分设公安局、法院，并裁撤检察机关，以检察官配置在各级法院内。193了年12月，日军侵占芜湖后，成立特设警察局。1945年抗日战争胜利后，芜湖警察局恢复，并将安徽省高等法院第三分院从泾县迁至芜湖，改称芜湖分院，直至解放。
1949年4月芜湖解放后，市公安局、检察院、法院等一系列人民民主专政机构相继建立。解放初期，针对当时社会治安混乱的状况，政法各部门抓紧收容散兵游勇，清除国民党残余，对有现行破坏罪行的土匪、恶霸、特务、反动党团骨干、反动会道门首领等反革命分子进行镇压。同时开展禁烟、禁赌、取缔娼妓等活动，使社会秩序转为安定，人民群众得以安居乐业。
1957年，政法工作因受“左”的思想影响，一度扩大了打击面。到1960年后，坚持正确区别和处理两类不同性质的矛盾，对部分冤假错案进行了复查纠正。“文化大革命”期间，政法机关被诬蔑为执行资产阶级反动路线，被予以“砸烂”，实行军事管制。当时，芜湖市公安机关军管会，集侦查、预审、批捕、起诉、审判于一身，正常的法律工作程序遭到严重破坏。
1979年党的十一届三中全会以后，政法各机关逐步得到恢复和重建，并对“文化大革命”期间以及历史上遗留的冤假错案进行全面的复查纠正，落实党的政策。
1983年下半年，市公检法各部门密切配合，开展严厉打击各种严重刑事犯罪的斗争，对杀人、放火、抢劫、强奸、流氓团伙、重大盗窃等严重破坏社会秩序的犯罪分子及严重经济犯罪分子多次集中打击。同时，狠抓社会治安综合治理，推行治安承包责任制，教育和改造违法青少年，开展普及法律常识教育筹工作，提高群众的法制观念，改变了社会治安的不正常状况，全市社会秩序有了明显好转。
到1985年止，政法部门工作随着“改革、开放”的不断深入发展，为保证人民生活的安全，社会秩序的稳定，继续进行不懈的努力。第一章公安