建国初期，反革命破坏活动十分猖獗。迅速肃清反革命残余势力，是党和国家一项重大的政治任务。为保卫地方人民政权，保卫各项社会改革和生产建设的顺利进行，皖北人民检察署阜阳专区分署、各县检察署全力以赴，积极投入镇反运动，根据《惩治反革命条例》，认真贯彻执行中央政策和省、地委的指示，坚持群众路线，坚持镇压与宽大相结合，稳、准、狠地镇压各类反革命分子。
检察机关会同有关部门，深入基层发动群众，宣传镇反政策，审查批捕反革命案件。在审查中发现有半数案件材料不足，有部分属于可捕可不捕或不应捕的。针对存在问题，分署当即组织检查组，以蒙城县为重点，审查望疃、立仓两区已捕49卷，其中应捕的15卷，可捕可不捕的23卷，不应捕的11卷，批捕正确率为30.6%。检察发现，有的制造假材料、诬陷好人；有的伪造证据、张冠李戴。如望疃区姜怀友，被以反革命罪报捕，经查，此案材料系该区区长李富德一手假造的。对此，分署建议蒙城县委严肃处理，并同公安处联合通报发至各县。至1951年6月，全区共召开公审、控诉大会3355次，参加人数达327.44万人次；逮捕反革命犯13868人，从而摧毁了反革命势力的社会基础，保证了人民政权的巩固。
清理积案，是1951年检察工作的中心任务，专署成立清案委员会，各县以公、检、法为主，成立清案小组，分署和县检察署均以主要力量配合公安、法院审理案件，实行法律监督，及时清理久押不决、久押不问、判决不当的案件，纠正错捕、错押、错判、错杀的案件。检察人员携卷下乡，发动群众，搜集材料，审阅卷宗，提审犯人，分别急缓，先办死刑和释放，后办徒刑，选好苦主，当面对质，组成法庭，就地审理。通过刑事检察，做到“决不冤枉一个好人，也决不放过一个坏人”。1951年5至8月，分署多次派员到临泉、凤台两县帮助审查案件，通过积案清理，查出并及时处理办案中的一些严重问题，如有的关押一年多，未问过一次；有的关押二年多，只问过一次；有的办案不负责任，造成错案；有的量刑畸轻畸重，仅临泉、凤台两县清理积案500余件，重新改判的就有100余件。
在刑事检察中同时发现诬告陷害案。如凤台县小学教员李玉俭，因检举过乡党支书余树芝，余便控告李抢劫财物并杀过10余人，区、县不作调查，偏听偏信，因此被捕的就有8人。产生错误的原因，一是干部少，案件多，任务急；二是对法律、政策学习不够，干部素质不高；三是捕人权在区，运动接连不断，把关不严；四是刑讯逼供，造假材料；五是缺乏深入调查研究，工作粗枝大叶。通过行使检察权，即依法批捕、起诉了大批危害人民的土匪、特务、恶霸及其他反革命分子，为肃清反革命势力作出贡献，同时维护了人民群众的合法权益，提高了办案水平，清除了革命队伍中的异己分子，维护了党和人民政府的崇高威望。在镇反运动中，检察机关还注重专案调查，及时总结经验，纠正错误。1953年9月，分署对凤台县朱文生等人检举村长朱正芳“出身不纯、为匪抢劫、违法乱纪、毒打群众、贪污腐化、包庇地主”等罪行进行专案调查，发现朱正芳的上述罪状系朱文武等人诬告陷害，分署及时进行处理，并通报全区。之后，省检察署和华东分署先后将此案通报各级人民检察署，指出“阜阳专区检察分署抓住典型案件及时处理，……沉重地打击了诬告干部的坏分子，揭露了县、区严重的官僚主义，推动了斗争的健康发展。”
1954年，《中华人民共和国宪法》和《中华人民共和国人民检察院组织法》颁布。同年12月，专、县检察署改称检察分院检察院。1955年1月，检察分院和各县检察院开始行使批捕权。报分院审批的案件和人犯是：反革命案件、乡级或相当于乡级的国家工作人员、小学教员、医护人员等。分院审查批准后，须报请地委同意，方能办理法律手续。报县检察院审批的案件和人犯是：一般刑事案件、国家机关的勤杂人员、非干部身份的工作人员等。县检察院审查批准后，须报请县委同意，方能办理法律手续。1959年2月，分院总结出批捕工作的“三抓”、“一结合”、“两依靠”的做法。“三抓”即抓主要犯罪事实，抓主要罪行的主要罪证，抓现行案件；“一结合”即个人审查与集体研究相结合；“两依靠”即依靠党的领导，依靠群众支持。在审批材料时注意做到“四及时”，即及时与公安机关联系，及时审阅材料，及时讯问被告，及时研究处理。
1955年3月以后，审查起诉工作，各县检察院相继开展。对重大复杂疑难的案件，直接参与公安机关预审；采取提审犯人或对质的方法核查材料；在审查犯罪事实时，注意“三抓”、“一找”，即抓公安机关预审终结报告和起诉意见书的审查，抓主要罪行的审查，抓主要证据的审查，找犯罪的各种证据相互之间的矛盾。
出庭支持公诉。1954年10月22日，临泉县检察院和法院首次试行公开审判程序，对该县黄岭合作社营业会计谷超贪污一案，支持公诉，取得了很好效果。分院及时推广临泉县检察院的做法。嗣后，阜阳、亳县相继开展出庭支持公诉业务。至1963年，全区检察机关支持公诉工作全面展开，在庭前准备、法庭调查、法庭辩论等方面，都积累了一定经验。同时开展二审出庭公诉，1至7月份，分院出席二审法庭22次，对其中13件提出改判意见，均被法院接受。
侦查监督从1955年起实行。临泉县检察院执行早，搞的较好。1957年2月21日，安徽省人民检察院对临泉县人民检察院《关于参加侦查活动的专题报告》，向全省发了通报，指出：“临泉县院在1956年中，积极地有重点地参与了公安机关的侦查活动，对保证公安工作正确、合法的进行，起了一定的作用，并取得初步经验，值得各地重视。”1957年初，各县检察院均与公安局建立了工作联系制度，以便及时参与公安机关的预审、勘验、搜查和扣押等侦察活动。1957年1～7月份，全区实行侦查监督的案件共1419件，其中参加勘验35次、参与鉴定6次、参与搜查2次、参与讯问被告35次、参与对质40次、参与告知侦查终结229次、参加破案会议39次、参加定案会议167次、直接提讯被告1140次，并及时指出了公安机关在侦查中的违法现象。如颍上县检察院在参加预审活动中，及时纠正了预审人员的提供、逼供现象，防止了错捕。涡阳县检察院发现公安预审人员不向被告宣读讯问笔录，并私自代替被告按手印的违法现象，及时向公安局的领导提出了纠正意见。
审判监督，1954年下半年开始试点，随后相继开展。一是及时发现错误的判决和裁定，二是有计划地参与审判活动。1956至1957年共出席法庭3085次，其中预审庭979次，出席公判庭2061次，参与二审审判45次。
1957年，开展反右派运动，“左”的错误开始干扰检察工作。由于“左”的思想影响，检察机关的法律监督职能受到错误地批判，斥责检察干部对检察机关的性质、任务，在“认识上有片面性”，“片面强调了监督，忽视了专政”，“割裂了专政与监督二者之间的统一性”，“忽视了党的领导，打击矛头指向人民内部，犯了右倾错误”等等；在公、检、法三机关的关系上被斥责为“片面强调了制约，忽视了配合”。检察机关依法行使监督职能被说成“挑毛病”、“打岔子”、“闹无原则纠纷”。严格依法办案，被说成“教条主义和旧法观念严重”，是“两耳不闻天下事，坐在屋里抠条文”。复查纠正错案，被说成“为犯罪分子开脱罪责”。在反右派斗争中，把许多敢于维护法律尊严，敢于坚持原则的检察干部打成“右派分子”，进行错误地批判，极大地挫伤了广大检察干部的积极性，使检察机关受到了严重的损害和削弱。1958年“大跃进”时期，检察机关也提出一些过高和不切实际的“跃进”口号，如“腿跑断，眼熬烂，实现年终无积案”，“大干特干加巧干，一天办完三十卷”等等。在侦查和审理案件中，提出了“冲破繁琐程序制度的束缚”，实行“三家联合办案，三员汇报，三长决定，党委批准，各办手续”及“一长代三长，一员代三员，一杆子插到底”等办法，取消了法律监督，废止了必要的办案程序，给检察工作带来不良后果。1960年，检察干部大都下放到农村，全区做检察业务工作的干部仅有24人，分院17名检察干部只有2人搞检察业务，界首、阜南、临泉、太和等县，平常只有1个检察干部在院搞业务。1961年，检察工作开始有所恢复，1962年6月，分院作出《近几年经验教训的总结》，认为近几年在贯彻同公安、法院一致对敌、互相协作的前提下，过分强调了配合，忽视了法律的监督，没有发挥应有的制约作用，检察干部工作不大胆，怕犯错误，存在着“左”比右好，宁“左”勿右的思想。同年9月，开始甄别过去被错误处理的检察干部，恢复办事机构和必要的办案制度，由于“左”的倾向未能得到彻底扭转，检察干部心有余悸，直到1965年，分、县检察院的检察职能一直未能全面地发挥。1966年6月，“文化大革命”开始，检察机关被卷入，刑事检察由革命委员会人保组取代。1975年1月第四届全国人大通过的《宪法》规定“检察机关的职权，由各级公安机关行使”，从而取消了检察机关。检察机关被取消，给国家造成了严重后果，给党和人民带来了惨痛教训，违法犯罪案件大幅度上升，冤、假、错案急剧增多，社会主义法制破坏殆尽。
粉碎江青反革命集团以后，党和国家为了发扬社会主义民主和加强社会主义法治，决定重建人民检察院。1978年11月开始恢复阜阳检察分院，并相继恢复各县、市人民检察院。分、县、市检察机关重建后，从1979年10月开始刑事检察，坚持个人审查，集体讨论，检察长或检察委员会决定的办案制度；坚决把住事实、证据、定性关，严格区分罪与非罪的界限；坚持深入实际，调查研究，切实摸透案情；坚持请示报告制度；坚持复查制度；坚持领导带头办案。1979年3至12月份受理地区公安局(今公安处)移送报捕的案件300多件，其中批准逮捕101人；直接受理各县、市检察院报捕的56人，其中批捕39人，不捕13人，退回补充侦查4人。由于十年内乱给社会治安带来了严重后果，刑事案件明显地增多，杀人、放火、抢劫、强奸、爆炸等犯罪活动十分嚣张。社会治安的恶化，已严重危害社会主义现代化建设。为了实现社会治安的根本好转，人民检察机关把整顿社会治安，打击刑事犯罪，作为自己的一项重要任务，坚持贯彻依法从重从快的方针。1979至1985年，分院受理各县、市移送起诉的案件424件、976人，经过审查，决定起诉的290件、525人；退回补充侦查的48件、173人；退回县检察院起诉的86件、236人；对42人作出免予起诉或不起诉的决定。分院刑事检察科同期办理县、市检察院上报请示的案件157件、调卷审理66件。在严厉打击严重刑事犯罪活动的斗争中，检察机关注意掌握政策，严格依法办事，基本做到了“四个搞准”和“六个防止”，即把打击对象搞准，把罪证搞准，把犯罪事实搞准，把定性搞准；防止简单粗糙，防止罚不当罪，防止漏掉余罪，防止错捕、错诉，防止单独赶进度而忽视质量。在打击严重刑事犯罪的同时，通过办案，协助有关单位健全安全保卫等各项规章制度，堵塞漏洞，预防犯罪；积极配合社会各方面，对失足青少年进行挽救教育工作；对免予起诉的人，组织社会力量落实帮教措施，实行回访考察，耐心教育，促使他们悔过自新。
检察机关重建后，即按照诉讼程序开展支持公诉业务，分院多次组织公诉座谈会，交流经验，以提高支持公诉的业务水平。通过公诉活动，揭露犯罪，宣传法律，教育群众，收到了良好的社会效果。
地、县、市检察机关坚持“以事实为根据，以法律为准绳”的原则，凡向公安机关、法院提出的纠正意见或作出的追捕、追诉和抗诉的案件，都经过深入调查研究，弄清事实，核对证据，做到准确无误。1981至1983年，全区检察机关对公安机关、法院在侦查和审判活动中的违法行为，提出口头纠正意见147次，书面纠正意见39次，建议公安机关立案侦查14件。1979至1985年，对公安机关应提请逮捕而未提请逮捕的178人，全部做了追捕；对公安机关应移送起诉而未移送起诉的32人，全部做了追诉；对量刑畸轻畸重的20件、24人，依法向法院提出了抗诉。
1980年，对批捕、起诉的案件，全区进行两次复查。5月底，全区抽调检察干部42人，划分11个组，分赴各县、市检察院，分别复查了1～4月份的批捕、起诉案件，经复查发现，应捕未捕的3人，不应捕而捕的17人，批捕准确率为94.3%；应诉未诉的1人，不应诉而诉的1人，免诉不当的2人，起诉准确率为98%。11月份，各县、市检察院自行复查和分院抽查相结合，经复查发现不应捕而捕的7人，无漏捕，批捕准确率为98.6%；免予起诉不当的2人，起诉准确率为98.5%。