合肥位居皖中，陆路运输历史悠久。楚怀王六年(公元前323)，楚贵族鄂君启得免税专用的陆路通行证——“车节”周游经商，曾经过合肥至巢县。这一时期，合肥与周边城镇已有车道相通。西汉时期，合肥北至淮河，南达长江，陆路沿途设5里1邮、10里1亭、30里1驿，并配有一定数量的专车。清康熙年间，合肥与四邻州、县间有5条驿道和6条大道。至宣统六年(1909)，仅留官道、大道各1条：官道由安庆经合肥、定远、临淮镇、固镇可通北京；大道由合肥经六安、正阳关、颍州、太和、亳州至省外。其他道路皆年久失修。
民国14年(1925)，合肥至蚌埠公路合(肥)—梁(园)段修通。民国19年，安徽省公路管理处投资修筑合(肥)巢(县)公路，并对外正式办理客货运输业务。抗日战争爆发后，为阻止日军侵略，省政府奉令于民国27年3月通令各专员公署、县彻底毁坏公路。合肥县执行了这一通令，公路运输车辆全部停载。省公路管理处及安合、合巢管理段撤销后，省驿运管理处成立，靠古老的驿运工具维持粮食、食盐、布匹和其他日用品运输。
民国34年11月，省驿运管理处改为省公路局，由立煌(今金寨)县迁至合肥。省公路局组织民夫星夜抢修合蚌、合安、合立、合巢4条公路，使运输逐渐恢复。民国36年，省公路局商请交通部公路总局南京第一运输处设立合浦、合水、合裕管理站，经营合(肥)浦(口)、合(肥)水(家湖)、合(肥)裕(溪口)3条线路的客货运输。民国37年底，省公路局奉省政府之命集结合肥近50辆客货汽车，经安庆向江南撤退，合肥地区公路运输中断。
1949年1月，中国人民解放军军事管制委员会派员接管了合肥汽车站及3辆美国产“小道奇”代客车，临时组建了合肥公路局，并会同皖北行署公路管理总局合浦、合安、合六工程队，组织民工抢修公路，恢复合肥至四邻地区的公路客货运输。随后，合肥市人力运输合作社、市人民政府交通科、市公安局交通消防队、皖北区合肥车辆监理所、市马车运输公司相继成立。据年底统计：合肥市共有18辆客货汽车，250辆平板车，100余辆黄包车，80余辆马车，年客运量2.295万人次。翌年，皖北水陆运输公司设立合肥水陆运输营业部，利用马车及其他运输工具，从事中转衔接铁路、公路、水路的货物联运，并统一受理托运、接送、结算等业务。1951年后，合肥地区的公路运输稳步发展。至1956年，合肥市有货运汽车769辆，是1949年的42.7倍。1957年客运量达189.1万人次，是1949年的82倍。1958年“大办钢铁”，货运量猛增，车站、港口货物积压严重。为此，市成立运输指挥部，指挥组织铁路、公路、水路、搬运“一条龙”运输大协作，并对各路运输进行“三统一”(统一计划、统一指挥、统一调配运力)管理，使货物积压的局面迅速扭转。是年市交通局成立，领导和管理合肥市的公路运输、公路建设和交通工业。1963年后，省、市公路部门先后投资在合六、合安等主要干(支)线公路的市辖段上，铺筑沥青、渣油表处路面。1969年，市交通支队革命委员会设立交通管理站，负责对城市搬运业务实行统一货源、统一调度、统一运行的“三统”管理，并核发非机动车运输牌证。是年，市搬运公司集中83辆大板车组成起重大队，从事长、大、笨重货物运输。1972年，市交通局直属汽车队成立，成为市属第一家国营专业汽车运输企业。嗣后，全市专业运输车辆逐渐更新，运力运量不断增长。1980年，全市专业运输企业的客运周转量达37452.4万人公里，货运周转量达8242.7万吨公里，分别是1970年的2.6倍和4.1倍。80年代运输市场放开后，以国有企业为主体、集体企业为辅助、个体(联户)为补充的运输局面逐渐形成。1985年，合肥辖区内166个乡(镇)实现了“乡乡有公路，晴雨通汽车”。全市专业公路客运班线共81条，其中省际27条，省内58条；日发客运班次236个。公路固定零担货运班线有39条。1987年，客运班线增加到104条，其中省际30条，省内74条；日发客运班次318个。公路固定零担货运班线增加到53条。