县境内地貌深受构造、岩性、气候、河流等内外营力作用的控制和影响。地势西北高东南低，由西北向东南呈梯状延伸为中低山区、丘陵、岗地和平原。山区占全县面积1686.03平方公里的49.3％(其中中山区占4％，低山区占45.3％)，丘陵占9.9％，岗地占23.9％，平原占16.9％。其地貌类型主要分为5种。
一、大别山侵蚀构造中山区
该区位于县境西北部，属大别山腹地，跨官庄、水贵、彭河、逆水、槎水、龙潭、割肚等乡及国营驼岭、天柱林场内的一部分。区内崇山峻岭，峰峦迭幛，山势陡峭。海拔均在800米以上，标高超过千米的山峰有60余座，最高峰猪头尖标高为1539米，次为天柱峰，标高为1488.4米。山顶多呈尖状，山脊狭窄。坡度一般在30°—40°之间，部分在60°以上。冲沟发育完善。峡谷呈“v”型。出露的岩层为晚太古界浅海相的变质岩。土壤母质为酸性结晶岩类残积物。该区景观绮丽，有发展旅游事业的天然条件，是发展林业及小水电业的基地。
二、大别山侵蚀构造低山区
该区位于大别山南麓，县内中山区的东南部，属大别山余脉。范围包括黄柏区的一部分乡、水吼区的多数乡和源潭、余井、梅城、黄铺区少数乡的局部地域。区内沟壑密布，河川纵横，山脉蜿蜒。断块山、断陷盆地、山地、丘陵、盆地相间排列。海拔为400—800米。相对高差为100—400米。山顶多呈尖园型。山脊线曲折绵延。坡度一般为20°—30°，局部陡坡达40°—50°。冲沟发育明显，呈“V”型或“U”型。出露的岩层为晚太古界及混合花岗岩。土壤母质为酸性结晶岩类的残积物和坡积物。区内气候温凉，雨量充沛，适宜于发展林业。
三、大别山前丘陵区
该区位于县境中部，依山呈条状分布。包括双峰、源潭、岭头、余井、潘铺、野寨、痘姆、牌楼等乡的局部地域。海拔为100—400米。相对高差为50—300米。山势平缓，丘陵起伏，河谷迂回其间，山顶多为浑园型。坡度一般为10°—30°。山丘脊线平滑，顶面舒坦。冲沟发育显著，沟谷呈“U”型。出露的岩层为片麻岩、混合花岗岩和少量的中性岩。土壤母质为酸性、中性结晶岩类及少量的碳酸盐岩坡积物。该区剥蚀和堆积作用并行，相对湿度大。宜植松、杉树和经济作物。
四、大别山前岗地区
该区位于源潭——牌楼断裂带的东南部。包括三妙、青楼、古井等乡的全部和双峰、棋盘、源潭、岭头、余井、潘铺、野寨、痘姆、牌楼、黄铺、河镇、黄泥等乡(镇)的局部地域。海拔为50—100米。相对高差为10—60米。岗冲相间，波状起伏。坡度一般为8°—10°。冲底常与圩畈平原相连。山间低洼处多被浅薄的第四系物质覆盖。出露的岩层为第三系紫红色砂砾岩及第四系更新统网纹状红土、砂质粘土。土壤母质为紫色岩类风化物、第四系红土和下蜀黄土。该区多被开垦为农田、旱地。
五、堆积平原区
该区位于县境东南部，包括王河、油坝、梅城等乡和梅城镇的全部及余井、潘铺、罗汉、黄泥等乡(镇)的大部分地域。地势平坦低洼。海拔在50米以下。该区以下降运动为主。进入中生界后，山区的大量泥砂在这里堆积，形成河流迂回曲折、沟渠纵横交错的现代地貌形态。出露的地层为白垩纪时期湖相砂砾岩沉积物和第四系砂层。土壤母质为湖相沉积物和河流冲积物。该区土层深厚，水肥条件好，是县内粮食作物的主要生产基地。
此外，县境西北部，有因断裂构造发育成众多的“断陷盆地”。海拔一般不超过400米。其四周山体边坡陡峭，中央陷落，间有河流贯穿，属侵蚀堆积河谷地形。盆地规模大小不等。山区各乡均有分布，尤以塔畈、官庄、槎水、水吼、五庙等乡的盆地面积较大，是山区主要农耕区。