区内既有主峰为全省最高点的黄山,也有面积为全省盆地之首的屯溪盆地。从而可将其分为北部低山丘陵带、中部低山中山带、屯溪盆地、东南部低山中山带、东北部丘陵带等次级地貌单元。
北部低山丘陵带位于东至——青阳——泾县一线以北,在地貌上以丘陵为主,低山为次。此外,在山丘间也有相当面积的台地、盆地和谷地。丘陵和低山的基岩组成十分复杂,其中对地貌形态有突出影响的是灰岩。石炭纪以前及石炭纪——三叠纪的灰岩,从东到西广有分布。因此,喀斯特地貌普遍有所发育,尤其是多喀斯特溶洞,西与江西龙宫洞,东与宜兴诸洞相连,构成了长江中下游喀斯特溶洞富集带。各洞石笋、石钟乳、石柱发育齐全,其中尤其是石台的蓬莱仙洞和广德的太极洞发育最佳。
中部低山中山带为皖南丘陵山地的核心,著名的黄山、九华山、牯牛降等概在其内。在这里由于新生代以来地壳隆起十分显著,因此,成为一片高起山地,其中尤其是在坚硬的花岗岩、花岗闪长岩和部分变质岩分布区,山地高度更大。如黄山莲花峰、光明顶、天都峰海拔分别达1873米、1841米和1829米。在这里由于山地高度较大,使气候、土壤、植被等各自然要素,具有较明显的垂直分布现象,并为省内植被保存最好,珍贵动植物保留最多之地区。其核心黄山,为一近代地壳抬升幅度较大的花岗岩体,花岗岩峰林地貌发育臻善,山地雄峰竞起,秀嶂叠峙,幽壑纵横,奇岩千姿,巧石百态;加之飞瀑如练,温泉如汤,青松多姿,云海变幻,堪称地球上的一绝,天下第一名山。偏于西北隅的九华山,和黄山一样,也为一近代地壳抬升幅度较大的坚硬花岗岩体。其山体峭拔秀丽,多飞瀑流泉,青松翠竹,又加之寺院遍布,为中国的四大佛教圣地之一,是安徽省内仅次于黄山的旅游胜地。
屯溪盆地位于黄山、天目山、白际山之间,在地质构造上为一山字型构造体系内的断陷盆地,在地貌上为一含有丘陵、台地的山间菱形盆地。盆地中地势比较平坦,沉积、堆积较厚,水源丰富,灌溉方便,尤其是北有黄山山脉为屏障,冬季受寒潮影响较小,农业生产条件十分良好,为省内仅有的两块可以裁种柑桔的地方之一。屯溪盆地,其边缘的山丘和中部的丘陵,概多由白垩系紫、红色疏松页岩、粉砂岩与砂岩等组成,加之气温较高,降水丰富,以及人类活动频繁,植被破坏严重,所以,风化剥蚀、侵蚀作用也极强烈。因此,在其上所发育的土壤多为幼年紫色土,土壤中矿物养料含量较丰;但土层薄,有机质少,有时甚至大片基岩直接出露,今后加强水土保持,实有必要。屯溪盆地不但农业生产条件甚为优越,而且山水秀丽,其中尤其是休宁齐云山,山体由近于水平状或平缓倾斜的紫、灰紫、红色厚层砂岩、砾岩和钙质粉砂岩、砂岩组成,在长期的风化、剥蚀、侵蚀、溶蚀作用下,形成了一种石峰林立,丹崖绝壁耸峙的独特丹霞地貌。其中最典型的丹霞地貌有紫霄、玉屏和碧霄等峰。此外,在丹崖绝壁间,由于差异风化、剥蚀、溶蚀的结果,还形成了数量众多的半山洞,著名的有真仙、雨君和栖霞诸洞,成为中国道教圣地之一。
东南部低山中山带位于安徽省境东南缘,即皖浙、皖赣边界线上。此带在地貌上也为一中低山群集处,其中尤其是在东段和中段,即皖浙边界地区的全部和皖赣边界的东段,山地大部分为高度较大的低山和中山,地面一片丛山峻岭,河谷深切,河谷平原极窄,山间盆地少而小。在植被破坏后的千枚岩、片岩地区,如歙县的南部地区,因其碎屑物成小薄片状,疏松而易滑动,水土流失强烈,残积、坡积甚薄。因此,在此处,大力恢复植被,加强水土保持工作,乃系当务之急。在西段,即皖赣边界的大部分地区,其地貌类型虽以低山和丘陵为主,但也仍有中山存在,河谷窄而深,河谷平原与盆地较少,从而使农业生产受到一定限制,但林业生产的发展大有前途。
东北部丘陵带包括皖赣铁路两侧及以东的宁国、广德、宣州、郎溪诸县市的一部分或大部分地区。地貌类型低山、丘陵、台地、谷地、盆地皆有,但以丘陵为主,地面比较破碎,成为皖南丘陵山地与宣芜平原的过渡地区。宣郎广地区的地貌条件,对农业生产来说,为多种经营的理想之地。但正由于丘陵台地的垦荒易于山地,所以毁林垦荒也重于山区,从而使水源失去涵养,土层多处遭到严重冲刷,不少地方,尤其是在北部以中、新生代红层为基岩的地方,有相当一部分土壤母质或基岩已直接出露,土壤肥力普遍低下,旱涝灾害大为增加,因此,积极造林,加强水土保持,至为重要。