嵩山系由前震旦纪古老片岩、片麻岩及石英岩构成的断块褶皱山，所以山势陡峭，雄伟壮观，形成明显独特的构造侵蚀低中山之地貌。嵩山地形比较复杂，山地、丘陵、盆地、河谷小平原。嵩山的主体部分太室和少室，峰峦峥嵘，纯属山地面貌。
内力地质作用地壳运动、岩浆运动、变质作用、地震作用对嵩山的形成起决定性作用，留下了明显的痕迹。嵩山地壳运动经过了嵩阳运动、中岳运动、少林运动、怀远运动、燕山运动及喜马拉雅和新构造运动。
中岳运动形成嵩山雏形，燕山运动确定嵩山基本格架经过风化剥蚀后形成今天的嵩山山体。中岳运动末期岩浆发生，形成岩浆入侵，同时又产生变质作用，使已形成的岩石又进一步变质，则形成复杂的变质岩系。
嵩山经风化、侵蚀、溶蚀、沉积作用和改造、滑动、崩塌等作用。嵩山这些运动与作用的产物，被地质学家誉为“五世同堂”的“天然地质博物馆”，嵩山距今已有35亿年的历史，成为我国最古老的山。
嵩山属北温带季风气候，年平均气温14.3℃，平均降水量640.9毫米。四季分明并各具特色，一年中7月最热，平均气温27.3℃，1月最冷，平均气温0.2℃。
嵩山山下全年平均温度14.3℃，山上平均8.5℃，山上年降雨量864毫米。
2012年，嵩山植被覆盖率达65%，嵩山共有维管植物147科、643属、1540种。其中蕨类植物21科、36属、70种；裸子植物5科、9属、10种；被子植物121科、598属、1460种。含30种以上的大科有菊科（50属、121种）、禾本科（61属、108种）、蔷薇科（27属、101种）、豆科（28属、72种）、十字花科（23属、44种）、毛莨科（11属、38种）、莎草科（9属、36种）、蓼科（4属、34种）等10科，约占本区植物总属数的40%，总种数的42%，是嵩山植物区系组成的优势科。
用材植物：木本植物有338种，其中乔木141种，它们是组成山区森林植被的建群种和优势种，也是用材植物的主要资源。分布数量较多、蓄积量较大的主要有栓皮栎、麻栎、化香、短柄袍、槲栎、侧柏、洋槐、油松、栾树、黄檀子、鹅耳枥、大果榉、山槐等47种。
野果植物：野生果树有89种。主要分布于蔷薇科、壳斗科、桑科、葡萄科、猕猴桃科、柿树科和胡颓子科。其中，野山楂、湖北山楂、板栗、河南海棠、欧李、伞花胡颓子、小果蔷薇分布广泛。