春秋战国时期，怀远先后隶属吴、楚。
秦代，淮河以南属九江郡，淮河以北属泗水郡。
西汉时，分设当涂、曲阳、义成、平阿四侯国和龙亢、向县两县。当涂、曲阳属九江郡；平阿、义成属沛郡。
王莽新朝时，当涂改名山聚，曲阳更名延平亭，平阿改名平宁。
东汉，当涂、平阿、义成改为县，属九江郡，沛郡更为沛国。
三国时，属魏地。龙亢隶汝阴郡，义成、平阿、曲阳属淮南郡，当涂、向县废。
西晋复置当涂县，与义成、平阿、曲阳同属淮南郡，龙亢改属谯郡。
东晋南渡，侨置当涂县于于湖（今南陵县东南），改置马头郡，设济阳县为属地。
南北朝时属宋，设零县，隶马头郡，龙亢并入蕲县；齐设已吾县，属马头郡；北魏时，改隶沛郡，增置义成县属临淮郡；梁，设龙亢县、葛山县；北齐，改马头郡为县，设荆山郡，已吾、义成并入临淮县，曲阳并入定远县。
隋，废荆山郡，改马头县为涂山县，属锺离郡。
唐代，涂山县并入锤离县；五代十国，属南唐；后周，设镇淮军。
北宋循唐旧制。南渡后，淮北沦为金地。金亡，南宋置荆山县。宋理宗宝五年（1257年），设怀远军，辖荆山县。
元至元二十八年（1291年）元月，定名怀远县，隶安丰路濠州。
明，属江南省凤阳府。
清，属安徽省凤阳府。
中华民国元年（1912年），裁府留县，属安徽省皖北道。
民国三年（1914年），改属淮泗道。
民国十七年（1928年）八月，直隶安徽省。
民国二十年（1931年）十月，属第四行政督察区（专员公署设寿县）。
民国二十七年（1938年）二月二日，县境沦陷，成立日伪县政府。
民国二十七年（1938年）十月，属第六行政督察区（专员公署设泗县）。
民国二十九年（1940年）七月，隶属第三行政督察区（专员公署设阜阳）。
是年，国民革命军新四军第六支队，中共豫皖苏边区在龙亢建立淮上行政公署。
民国三十年（1941年）元月，中共豫皖边区在龙亢建立怀远县抗日民主政府。
民国三十三年（1944年）十一月，中国共产党在双桥建立宿、怀、蒙（城）县，属淮北路西二分区；十二月，宿、怀、蒙县分设宿蒙、宿怀两县，隶华中八分区。
民国三十四年（1945年)八月，抗日战争结束，民国县政府迁入县城。
民国三十五年（1946年）八月，划属第十行政督察区（专员公署设田家庵）；十一月，解放战争开始，宿怀县党政人员西撤。
民国三十六年（1947年）六月，恢复宿怀县，属中共豫皖苏三专署，翌年改属中共江淮三专署。
民国三十七年（1948年）三月，中国共产党在涡河南建立怀远县，属中共豫皖苏六分区。
1949年1月17日，全境解放。3月，恢复怀远县建制，隶皖北行署宿县专区。
1956年2月，隶蚌埠专区。
1960年12月，属宿县专区。
1983年7月，改属蚌埠市辖县。