浮山佛教，始于晋梁。梁天监三年(504年)，武帝推崇佛教，沿江一带寺庙大兴。浮山地处江畔，山青水秀，石窟成林，自然成了建刹的宝地。当时“浮图始昌，为室为堂”，一派生机。南陈太建七年(575年)之前，有高僧智顗在此结茅禅修，后建“浮山寺”，为有史料记载的创庙之祖。智顗南渡后，在天台山创立天台教派，影响甚广。进入隋代，炀帝赐予智顗为智者大师，故浮山寺被称为“智者大师道场”，或曰“祖庭”。此时，中国佛教处于鼎盛时期，天台宗在浮山占主导地位。唐武宗会昌五年(845年)，诏令天下没收寺院财产，毁灭佛寺、佛像，强迫僧尼还俗，出现“会昌灭佛”的局面。浮山受到波及，以致“栋宇颓弛，释子无似”。
宋代，儒家学说已成为维护封建统治秩序的指导思想，而佛教的基本观点又与儒教相融合，故赵宋王朝对佛教多采取扶持政策。时有高僧远禄，云游四方，参谒过汾阳的昭和尚和叶县的省和尚。两位禅师的说法对远禄的思想归宗起了重要作用。后远禄参拜了佛教曹洞宗祖师太阳玄禅师，玄师以直裰皮履授之曰：“洞宗无人，以此传之”。远禄奉命往住浮山，成为浮山曹洞宗的开山祖师。
曹洞宗是禅宗七祖江西青原山行思之后，洞山良价禅师为曹洞第一代祖师。至远禄卓锡浮山，已传七代。远禄为曹洞宗第七代祖师。时有欧阳修等文人学士常来浮山游，与远禄十分友契，彼此酬唱诗文。远公用下围棋作比，宣讲佛法，使欧阳修大为惊叹，促使他成为护持佛法的重要人物。由于“因棋说法”而使欧公折服，招致许多社会名流，如范仲淹、杨杰、吕济叔、富彦国等前来问法，从此浮山声名远扬。宋仁宗嘉祐年间(1056——1063)，皇帝御赐匾额，并赐远禄法号“圆鉴”。在舒州知州吕济叔的支持下，重建殿宇，“废则必修……筑屋周列”，致使浮山寺庙林立，香客如云，逞一时之胜。
元代，战事频繁，香火冷落。至元末，浮山成为军事要冲，寨堡林立，庙宇所剩无几。
明洪武二年(1369年)，因朱元璋崇奉佛教，有高僧净康来山领事，苦心经营，又恢复了部分寺庙。至成化年间(1465——1487)，华严寺毁于大火，僧人无力再建，残存庙宇沦为民间私产。万历年间，有邑人太史公吴应宾，因目疾告归故里，见远公道场荒废，立志修复。恰有云南高僧朗目来浮山礼拜祖师塔，二人相交默契，于是分头募化，拓土扩地，恢复旧观。吴太史集资铸塑一铜制丈六金身于金谷岩，朗目则求助于安徽巡抚刘东星，并上达朝廷，后得旨归还“远公道场”。神宗皇帝又钦差任大用来浮山颁赐《大藏经》5048册，李皇后另赐和尚紫衣袈裟及花幡与银两；沈王朱胤移捐资万金，建造“大雄宝殿”。原先散失的田产重归寺庙所有，山上一寺五岩全部得以恢复。经过重整仪轨，沙门大振，序寮成片，亭塔如林，遂成为十方丛林。明末，张献忠义军围攻浮山寨，香火逐渐冷落，殿宇也多倾圮，佛事遂衰。
清康熙年间，我国著名的思想家、科学家无可大师方以智，接受安徽巡抚和桐城官绅之邀，为浮山十六代住持。其徒山足和尚主持重修了《浮山志》，建造了“藏经阁”。清末，太平军与清军在浮山激战多年，焚庙毁佛，只存一片瓦砾。1924年，邑人房秩五先生在大华严寺的废墟上创办了浮山公学，少数僧人迁居于新普同塔院。建国前夕，浮山各寺僧人的分布是：华严寺求度、果慧；金谷寺庙山、庙慧、永慧、慧风；会圣寺道光、了然；张公寺宝发；佛母寺常安。建国后，僧人有的还俗，有的回原籍，各自星散。残存的庙宇被毁，或改作它用。
中共党的十一届三中全会后，宗教政策得以落实，佛事活动逐渐恢复。除华严寺外，其它庙宇俱在修复之中。会圣寺规模如旧，由僧人修顺、开权等3人管理；金谷寺正在施工修复，丈六金身已登莲花宝座，住持先为安修，今为望山。张公、观音、佛母诸寺，已列入修复计划。