民国24年（1935年），在凤怀地方法院成立后，司法行政事务由法院管理。
1951年，在市人民法院内设公证组和专职律师。1956年5月，成立市人民委员会司法行政科，编制4人，主管司法行政工作。是月，还增设法律顾问处，至6月成立公证处。1957年7月，市司法行政科撤销，司法行政工作仍归市人民法院管理。“文化大革命”开始后，司法行政业务停办。1979年1月，市中级人民法院恢复司法行政科，至12月增设法律顾问处、公证处。
1980年10月，市司法局成立，原由中级人民法院承担的司法行政工作移交给该局。局内设办公室、司法科、公证处、法律顾问处。1981年9月，局增设法制宣传科。1983年9月，司法局建立劳改劳教农场，成立劳改劳教科，至1984年撤销。1985年，市司法局设办公室、法制宣传教育科、调解科、公证律师管理科、公证处、法律顾问处6个科室（处），编制42人。
1982年5月，市辖4个区政府分别成立司法科，负责辖区内的司法行政工作。