民国19年（1930年），淮南煤矿局开办之始，即设警务组织，民国25年，称淮南矿路警务段。抗日战争胜利后，初称警务处，后称淮南矿路警察总所，列入国民政府内务部警察总署序列，1949年1月18日起义，经整编改造归属人民公安序列。
1949年5月15日成立淮南矿区公安局，1950年8月改称淮南市人民政府公安局，其后又经多次机构和名称演变。
淮南人民公安机关建立后，在党和人民政府的领导下，为巩固政权、稳定社会治安作出了不懈努力；同时，加强自身的业务建设。解放初期，开展了户口登记，逐步建立了一套行之有效的治安管理规章制度。随着城市的扩大，市政府颁布了若干地方法规，使治安行政管理日益加强，在维护社会秩序、预防犯罪方面加强了工作。公安机关在侦查、审讯、户籍和治安行政管理、内部保卫、疑犯审查、劳动教养、外事管理、首长警卫、交通管理、消防监督等方面加强了建设，在组织建设、思想建设、业务建设、法制建设方面也不断发展和深入。