民国27年（1938年）夏，日军占领大通矿区，掠夺煤炭资源，残酷迫害矿工，“万人坑”即是其重要见证。“万人坑”位于舜耕山北麓，共3个南北向土坑，每坑长20米、宽3米、深3米，总面积430.54平方米，坑内有3万余名淮南矿工的尸骨。
日军侵占大通煤矿期间，实行“以人换煤”的政策，利用汉奸把头，从河南、山东等“黄泛区”招来大批流离失所的农民充当矿工。矿工们的工作条件和生活状况都十分恶劣，民国31年秋，日军把发霉的麦麸给矿工食用，许多矿工吃了发霉的麦麸饼又在井下喝了脏水，导致伤寒病蔓延，矿工成批死亡。日军为了制止伤寒扩散，强行将染病矿工集中到两处用芦席搭建的所谓的“大病房”中，实际上并没有采取任何医疗措施。矿工病死了就被拖出去扔在南山脚下的小树林中，有的矿工还未死亡就被拖出去扔了。由于死难矿工以河南人居多，当地群众就把这片堆满矿工遗体的树林称为“侉子林”。第二年春，气温转暖，尸体腐烂的气味飘到了日本人驻地，日本兵便强令矿工挖了3个条形大坑，将尸骨抛入坑中，用石灰层层掩埋。据统计，抛入坑中的矿工遗体有13000多具。以后被迫害的矿工和抗日志士的遗体陆续被抛入其中，“万人坑”因此得名。至今“万人坑”内还有大批遗骨历历可见。
1968年，重将“万人坑”掘开，在其上建立了阶级教育展览馆，接待来自全国各地的参观者。1986年被列为省重点文物保护单位。