19世纪30年代以前，合肥无公办医疗卫生机构。明末清初，合肥始有固定的国药商号，经营草药和丸、散、膏、丹及饮片等成药。另有中医医生在国药店坐堂行医。尚有走街串巷给人治病的郎中。
清光绪二十年(1894)，德国人戴尔第来合肥传教，在德胜门天主教堂设“圣心诊所”。光绪二十三年，中华基督总会(南京)派美籍传教士徐鸿藻、柏贯之到合肥传教施医，由此西医始渐传入合肥。民国16年，刘锡麟(又名刘梦九，合肥人，齐鲁大学医学院毕业)创立合肥民生医院，成为由国人在合肥创办的首家医院。民国26年，合肥县警察局设有清洁所，管理街巷卫生，为合肥最早的公共卫生机构。
合肥解放前，由于卫生医疗落后，曾多次流行霍乱。群众生病，多求神问卦。妇女生育，旧法接生。人口死亡率高达20％。。新生儿破伤风(俗称“七天风”)死亡率高达400‰。人均寿命仅为35岁。
解放前夕，合肥有县医院1所，床位12张，房屋13间，工作人员12名，其中医生2名。另有23家私人诊所。合肥解放后，市委和市人民政府按照“面向工农兵，预防为主，团结中西医，卫生工作与群众运动相结合”的卫生工作方针，在省卫生主管部门的支持下，新建、扩建医疗卫生机构，普及卫生常识，并在全市行政、事业和企业单位实行公费医疗和劳保医疗制度，使合肥的卫生事业迅速发展。到1952年底，合肥地区的医疗卫生机构已发展到114家，医院病床达425张，卫生技术人员增至851人。病床床位和卫生技术人员，比1949年分别增加0.7倍、9.3倍。
在第一个五年计划时期(1953～1958)，合肥市除新建市级医疗卫生机构外，还陆续建立了各区、县级医疗卫生机构，使全市医疗卫生机构布局逐步趋于合理。此间，市卫生局还重点抓了新建大中型工厂企业自建医疗卫生机构的工作。到1959年，全市各大型企业均建有厂医院或卫生科，中、小型企业普遍设立有卫生所或医务室。至1965年末，合肥市已形成以省属及驻肥部队大医院为后盾，以市属3所综合医院和传染病、精神病等专科医院为主体，以工厂企业医务室(卫生所)、区医院为基础的医疗卫生体系。全市医疗卫生机构共有295所。其中医院19所。卫生技术人员发展到4361人。由于医疗机构的发展和卫生条件的改善，极大地提高了人民群众的健康水平。曾横行于旧社会的天花、霍乱、鼠疫、性病等恶性传染病，在此前后相继绝迹。
1966年“文化大革命”开始后，合肥有一大批医疗卫生机构被“砍、并、撤”，医务人员被下放到农村。至1970年，全市仅剩下12所医院，卫生技术人员减至2817人。
粉碎“林彪、江青反革命集团”后，特别是中共十一届三中全会后，合肥市卫生事业恢复发展，在1979～1985年的7年中，仅合肥市用于医疗卫生事业的投资就达2755万元，比1949～1965年的投资总额1232万元增加了1.24倍。1985年末，合肥市共有医疗卫生机构490所，其中医院47所。有病床5616张，卫生技术人员10647人(其中医生5116人)。合肥市医疗卫生条件的改善和技术水平的提高，促进了人民的健康水平。1985年，合肥市人均寿命逾70岁。