淮南人类的起源，可以追溯到5000年以前的新石器和金石并用时代。
夏商时期，境内已有淮夷部落活动。西周分封诸侯，淮南属州来子国。战国时期，淮南人口增加，生产力水平相对提高。
西汉初年注重休养生息，市境属淮南王封地，人口繁衍，文化发达。淮南王刘安集门客编著《淮南子》，系统地记述了各方面成就。东汉末年以后的数百年间，市境地处拉锯战的主要战场，百姓为躲避战乱纷纷向较安定的地区转移，人口锐减。
唐初，采取与民休息，鼓励生育的政策，市境人口与经济经战乱后近二个世纪停滞与倒退之后又走向一个新的发展道路。北宋时，市境亦属富庶之地，人丁兴旺之所，宋钦宗靖康元年（1125年）后，金军南下与南宋在中原地区展开了多年的拉锯战，战争和灾荒使江淮地区人口锐减。“淮南人口逃窜，良田沃土，悉为茂草”。
金章明五年（1194年）黄河向南决口，黄河长期夺淮，两淮平原从此灾祸连绵不断，生产力遭破坏。直到明初，淮南、淮北人口仍十分稀疏，官方不得不迁入移民。
明朝，由于淮南邻近明太祖朱元璋故乡凤阳，在发展生产等政策方面受到照顾，除免赋外，还厉行移民之法，充实凤阳、临淮之地，开发农业。明代淮南虽经“靖难兵起”，明武宗（朱厚照）时又前后两度在淮河流域发生多次激烈战争，但人口总体仍逐年增长。
清朝初，采取“摊丁入亩”、“滋生人丁，永不加赋”的政策，一定程度上减轻了人民的负担，对社会生产力发展起到了推动作用。从咸丰到宣统（1851～1911年），因战争迭起，特别是清军进剿太平天国和捻军起义，淮南人口遭杀戮惨重。
民国期间，淮南人口变动较大，淮南煤矿从民办土窑变为官办、商办，采矿人口从300多人，发展到3万余人。矿工人口变动的特点是迁移人口多，死亡率高。抗日战争时期，日军为了大肆掠夺淮南煤炭，从民国28～32年（1939～1943年），先后从河南、山东等地共抓骗来3万多工人，数以万计的矿工为日军残害。这一时期农业人口因天灾人祸，出生率高，死亡率高，迁移率亦高。民国2年（1913年）后，军阀在皖淮地区混战近10年，人民遭难颇深，人口流散严重。民国27年，日军进犯淮南，实行“烧、杀、抢、掠”的法西斯政策，淮南人民英勇抗战，人口伤亡惨重。是年6月黄河大堤决口，黄水泛滥，淮南地区年年遭受水灾，人口总体上呈低速减少态势。
建国后，淮南人口迅速增长。1953年第一次人口普查时全市人口为24.69万人，到1964年第二次人口普查时，11年间净增人口20.93万人，增长84.77%，年均递增5.74%；1982年第三次人口普查，全市人口与第二次普查时相比，18年间净增人口56.88万人，增长124.68%，年均递增4.60%；到1990年第四次人口普查时，全市总人口达到123.99万人，与1982年相比，8年间净增人口21.48万人，增长20.95%，年均递增2.41%。