合肥机械工业是在新中国成立后逐步发展起来的。最先起步的是农机具和矿山机械制造业。1951年，皖北机械厂、皖北行署农林处农具厂和合肥爱国铁器生产合作社等机械工业企业相继建立，始生产小型农机具和矿山机械。1954年建立合肥农具厂，始发展双轮双铧犁和山芋切片机生产，初步形成合肥机械工业的雏型。
1958年，合肥机械工业出现多行业齐头发展局面。这一时期先后建立的机械工业企业有20余家，初步形成了金属加工机械制造、通用零部件制造、锻铸毛坯制造、工业专用设备制造、农业机械制造、医疗器械制造和电影机械制造等10多个规模不等的生产行业。其中，合肥矿山机械厂是安徽省生产矿山机械的重点企业。合肥农具厂生产的山芋切片机，于1954年11月运送北京全国农业展览会展览，翌年春转运民主德国参加莱比锡国际博览会展览，这在当时，代表了合肥机械工业的技术水平。
这一时期，合肥机械工业的发展，片面追求“大、洋、全”，致使发展速度过猛、摊子铺得过大，尤其是农业机械制造盲目仿照英国福格森35型、匈牙利GS35型和苏联德特20型等拖拉机机型，生产农用拖拉机，严重脱离了生产能力和安徽农业生产实际，加之行政领导指挥的失误，如合肥农具厂正值生产双轮双铧犁发挥很好效益的时候，1956年7月被强令下马，转产纺织机械。在转产后不久，又强令转产农副产品加工机械等，致使企业穷于应付，形不成稳定的生产能力，并导致部分企业亏损。1959年，安徽八一拖拉机制造厂(筹)，亏损额达30万元，另欠银行贷款200万元。1962年，一度效益很好的安徽省农业机械厂，几经折腾，企业由盈转亏，当年亏损额达277万元，以致建厂十年，盈亏两抵后，仍倒挂186万元。
1963年后，合肥机械工业，通过贯彻国民经济“调整、巩固、充实、提高”方针，紧缩生产规模，调整产业结构，生产形势逐渐好转，然而不久又遇开展“文化大革命”运动，以致整个机械工业生产，长期处于徘徊不前状态。
1979年，合肥机械工业在改革、整顿的基础上，致力提高产品质量和新产品开发，注重生产适销对路产品，使机械工业各企业生产普遍出现大发展局面。1980年，安徽拖拉机厂生产的江淮—50型轮式拖拉机，被评为安徽省优质产品，其后连续5年被评为国家机械工业部优质产品。1982年，安徽拖拉机厂为适应农村经济改革需要，又设计生产江淮—12型小四轮拖拉机，一度在市场上形成“小四轮热”。是年，合肥矿山机器厂生产的W3—06型轮胎式单斗挖掘机，被评为安徽省优质产品。该厂生产的低比压液压挖掘机，于1983年参加北京新产品展览会，被誉为达到和接近国际先进水平产品。合肥化工机械厂生产的φ700铜液洗涤塔，于1985年被评为国家化学工业部优质产品。其性能和质量，达到和超过国际同类产品先进水平。至1985年底，合肥机械工业企业，计有2项产品获
国优奖，13项产品获部优奖，28项产品获省优奖。
1985年底统计，合肥机械工业企业已发展到锅炉及原动机制造、金属加工机械制造、通用设备制造、通用零部件制造、锻铸毛坯制造、工业专用设备制造、农业机械制造、建筑机械制造、地质专用设备制造、消防设备及器材制造、机械设备修理等14个大行业，企业数达到60家。其中隶属合肥第一机械工业公司领导的企业共19家，10家为全民所有制企业，9家为集体所有制企业。隶属合肥市第二机械工业公司领导的企业共17家，9家为全民所有制企业，8家为集体所有制企业。其余企业均为跨口管理单位。全行业(一机、二机系统。下同)职工3.686万名，其中全民职工31290名，占总人数84.89％；集体职工5571名，占总人数15.11％。拥有固定资产原值35531万元，净值22919万元。其中：全民企业固定资产原值为33633万元，占94.66％，净值为21701万元，占94.69％；集体企业固定资产原值为18988万元，占5.34％，净值为1218万元，占5.31％。当年完成工业总产值45146万元。其中：全民企业完成总产值40737万元，占全部产值90.23％；集体企业完成总产值4409万元，占全部产值9.77％。实现利税总额为8671万元。其中：全民企业利税总额为7819万元，占总额90.17％；集体企业盈利总额为852万元，占总额9.83％。全员劳动生产率：全民企业为1.3万元，集体企业为0.79万元。