民国34年前，合肥县没有专门的审计机构。
抗战胜利后，安徽省会由立煌县(金寨)迁往合肥，合肥的审计工作由省属审计处统一负责。该处设审计、简任、协审、稽察、秘书各1人。下设4个组：第一、二组分别掌理事前审计和事后审计事务，组主任由协审兼任；第三组掌理稽察事务，组主任由稽察兼任；第四组又称总务组，掌理本处文书、统计、会计事务及其他各组交办的事务，组主任由秘书兼任。审计处的主要任务是：审计本地岁入岁出的总预算、总决算，审计所属各机关每日收支预算及收支计算报告，审计地方行政事业收支计算等等。
1949年1月21日合肥解放。至1952年，合肥市的审计工作由市人民政府财政科审计组负责。
1952年至1983年10月，合肥市和全国各地一样，没有设立专门的审计机构。
1983年11月14日，合肥市审计局成立。市辖东市、中市、西市、郊区和肥东、肥西、长丰县也于1984年l～3月相继成立了审计局。
至1984年底，合肥市各级审计机关共有职工58人，占当时定编数的76.3%。其中具有技术职称人员计39名，占总人数的67.2%。市审计局机关有职工23人，其中11人有技术职称，4人为会计师。平均年龄37.5岁。
1984年9月，市审计局制订了《机关岗位责任制试行办法》；12月，制定了《文书管理安全保密制度》和《考勤、奖罚制度》，机关内部管理工作逐步加强。
1984年11月，市审计局制订了《合肥市审计局主要工作任务》，具体地对全市审计机关的审计对象和工作范围作了明确的规定。至1985年，市审计部门通过开展试审、调查、宣传等一系列工作，初步打开了合肥市审计工作的局面。根据《中华人民共和国审计条例》规定，市审计局的主要职责任务是：对合肥市属国营大、中、小型工交企业的财务收支进行审计监督；对合肥市属党政、事业机关的财务收支进行审计监督；对合肥市的基本建设项目进行审计监督；对合肥市的财政、金融机构的财务收支进行审计监督；对合肥市的商业、粮食、外贸、农、林、水利企业进行审计监督；对中央驻肥企、事业单位的财务收支进行审计监督；对合肥市利用外资的情况进行审计监督。另外，还接受地方领导交办和上级审计机关交办的审计任务，接办根据人民来信、来访线索须查处的经济案件(或审计调查)，办理其他有必要进行的审计事项。
专项及例行审计
1984年，刚刚组建不久的市审计局遵循“边组建、边审计”的原则，围绕“对外开放、对内搞活经济”这个中心，积极开展试审。同年4～12月，市局及所属审计机关，先后对教育、工商、水利、畜牧、金融、基建等6个行业18个单位的1983年和1984年上半年财务收支的真实性、经费分配使用效果和经济效益等进行了试审，共审出各类有问题金额1582.91万元，其中违反财经纪律的有169.09万元。据不完全统计，1984年市审计局还完成省、市、县各级领导部门交办的任务，和有关单位委托要求仲裁的事项20余件。
企业效益审计
1984年，安徽省审计局与合肥市审计局联合对肥西县三河酒厂的经济效益进行审计。三河酒厂是肥西县的工业骨干企业之一，1983年生产虽有发展，但1984年上半年一些主要经济指标与1983年同期相比下滑，其中利润下降25.79%，百元资金利税率下降30.23%，百元销售利税率下降5.87%。联合审计组通过审计，查明该厂在产量提高后效益反而出现负增长的主要原因是忽视管理，没有健全以经济责任制为中心的管理制度，因而造成生产成本、销售费用上升，经济效益下降。针对该厂存在的问题，联合审计组帮助其建立健全了生产、财务管理制度，使其在下半年迅速提高了经济效益。1984年，该厂实现利税90.61万元，粮食白酒成本比1983年下降3.65%。1985年，合肥市有几家企业亏损的数额较大，增加了市财政的负担。为搞清其亏损的原因，市审计局对市食品公司禽蛋批发部、市纺织品站等19个独立核算单位进行了专项审计，共审计出有问题金额2138万元。市食品公司和市纺织品站，年亏损均在千万元以上，其中既有政策性亏损，又有管理不善等方面的原因。市食品公司在1984、1985年季度财务收支中，违纪金额高达102.9万元，被审计要求限期纠正。与此同时，为了探索工业企业效益审计的路子，市审计局对合肥棉织厂1985年经济效益进行了审计。审计组针对该厂内部管理不善、生产效率低等问题，提出了建设性的意见和改进措施，受到企业主管部门和该厂的好评。
行政事业单位审计
1984年，市审计局对部分行政事业单位进行就地审计和试审，完成对市一中教育经费、肥东县水利经费的审计。肥东县80年代初在水利经费的分配和使用过程中，存在着报表反映不实、虚报支出、转移资金等问题。仅滁南站1981～1983年就虚报基建支出69.2万元；众兴水库虚报17.57万元。肥西县14个水管单位欠收水费16.3万元，全县至1983年累计欠收882.96万元，连同净亏损的387.53万元和历年往来帐占用的33.2万元，共挤占国家资金1303.69万元。一些单位多发奖金、补助，多提专用基金，扩大成本开支，收入不入帐，“跑冒、滴漏”现象严重存在。审计后，市审计部门针对这些问题提出了38条建议，并向市政府写了专题报告，引起市县领导的关注。肥东县水利局召开了全县所属单位负责人会议，逐条研究落实审计意见。肥东县县委、县政府办公室将审计报告转发全县，引起了很大震动。从1984年7月起，市审计局第一批选定市委、市政府、市人大、市政协等25个一级会计核算单位进行了送达审计，在全市产生了较大的影响。后采取定期送审与不定期审计相结合的办法，从48个单位中审计出有问题金额43.5万元，其中购违控商品21.8万元。这项工作得到了市领导的支持，工作开展得比较顺利，初步打开了全市行政事业单位审计工作的局面，促进了一些单位对行政经费的合理使用。
财金审计
1984年，市审计部门开展财金审计。当年市审计局对市工商银行技措贷款的发放回收情况作了审计调查，对市农业银行1984年度财务决算进行了审计；郊区审计局对区财政进行了审计。在对市工商银行技措贷款发放回收情况审计调查中发现：一部分企业由于在用款前所做的市场预测科学准确，因而投资效益显著；反之，则不然。合肥日化总厂从工商银行贷款247万元，经过技术革新，于1979～1983年5年共实现利润1816.2万元，上缴财政1481万元。而安徽东风塑料厂由于市场预测不准确，造成产品滞销，1983年从银行贷款470万元，到1984年仍欠贷272.1万元。经对比分析研究，市审计部门及时提出建议上报，为领导决策提供了有价值的信息。此外，还及时地纠正了个别财金部门擅自多提留款等违纪问题。
行业审计与专项审计
1985年，市审计局先后对粮食系统、公路系统进行行业审计，对计划生育经费、育林经费等进行专项资金审计，对一些企业浮动工资进成本以及“菜改费”等资金情况进行专项审计。为发展合肥市蔬菜生产，改善供应，市里决定从1982年起，对每亩农田征收1000元、菜田征收2000元，用于发展蔬菜生产。经审计，1983～1984年底，经办部门共收款531万元，但这笔钱基本上没有用到发展蔬菜生产上，而是被作为机动财力用到发展乡镇企业方面了。某区粮食局利用超购套取国家补贴，被审计查出违纪金额16.8万元。审计部门要求被查出问题的单位及时纠正，强化了财经纪律。
审计调查
1984～1985年，市审计局对全市(不含县区)各行业157个单位的统一“制装”问题进行了审计调查，发现用公款制发服装的有46个单位、28739人(套)，共用去制装费1773440元，人均61.71元，最高者人均125元。审计部门及时地将调查情况和处理意见报送领导部门处理。为了有计划有步骤地开展审计工作，市审计部门基本摸清了全市1004个面上被审单位(不含县区所属单位)的概况，积累了近20万个可靠数据，除按照行业特点对工交、商贸、财金、学校进行专项调查外，还进一步规范了被审单位的财务行为，促进社会风气好转。
1985年，市审计局对合肥市一些单位从世界银行贷款的情况进行调查了解，侧重调查贷款项目设置和国内配套资金落实及财务制度执行等情况。合肥联合大学接受世界银行贷款156万美元，合肥电大分校接受世界银行贷款10.16万美元。2个单位均按要求确定了项目负责人及工作人员，因而使用资金得当。是年，为了摸清全市的基建规模和基建中存在的主要问题，市审计局对全市160多个基建项目进行了调查，发现有的单位计划任务书编制欠规范，有的单位因基建规模年年增大、管理工作跟不上，而导致竣工交付使用率下降。通过这次调查，为全面开展基建审计工作打下了基础。