黄山的开发建设，与宗教有密切的关系。唐代道教旧籍中，关于轩辕黄帝和容成子、浮丘公来山炼丹、得道升天的仙道故事，流传千年，影响深广，至今还留下与上述神仙故事有关的许多峰名，如轩辕峰、容成峰、浮丘峰，以及炼丹、仙人、上升、仙都、道人、望仙诸峰。黄山山名，亦与黄帝炼丹之说有关。道教在黄山建立较早的道观有浮丘观、九龙观等。宋末道士张尹甫在黄山修炼，创建松谷道场。明末以后，全山范围内，已无道教活动的踪迹。
据《黄山图经》记载，佛教早在南朝刘宋间就传入黄山，历代先后修建寺庵近百座。寺庙之中，祥符寺、慈光寺、翠微寺和掷钵禅院，号称黄山“四大丛林”。其它寺庵规模较小，甚至仅有茅屋竹篱，最小者如定空室，仅有一席之地。黄山历代释徒中，能诗善画者多，著名的有：唐代岛云，明代海能、弘智、音可、元则、王寅，清代大均、大涵、檗庵、渐江、雪庄等，都有作品传世。
黄山寺庙中所奉菩萨有所不同，文殊院以南，紫云庵、慈光寺等，僧人多是普门和尚的门徒，以文殊菩萨为主座；文殊院以北，狮子林、云谷寺、神仙洞诸刹，僧人多是一乘和尚的门徒，以观音菩萨为主座；翠微寺僧，都是麻衣和尚的门徒，奉地藏王为主座；光明项上的普贤院，则奉大行普贤菩萨为主座。旧时朝山香客，多由九华山来，往齐云山去；或取道太平，经焦村上钓桥庵，越汤岭至汤泉，自紫云庵、慈光寺至文殊院。以慈光寺、紫云庵两处香火较盛。黄山佛教至清末衰落，仅留下几座寺宇。
本篇主要记述道教、佛教的兴衰和历代的僧、道名人，寻求黄山初期开发历史的轨迹。