黄石市地处幕阜山北侧，为幕阜山向长江河床冲积平原，过渡地带，辖地内多低山。境内较大的山有东方山、黄荆山、云台山、父子山、七峰山等，最高峰为阳新境内的七峰山主峰南岩岭，海拨860米，次高峰为大冶太婆尖，海拔839.9米，最低处为阳新境内的富水南城潭河床，海拨8.7米。长江自北向东流过市境，北起鄂州市艾家湾，下迄阳新县天马岭，全长76.87公里，市境内主要水系有富水水系、大冶湖水系、保安湖水系、还有海口湖、磁湖、青山湖、三山湖、花马湖、葛湖、荆山源、上巢湖等水系。最大的水系为阳新境内的富水水系，富水河发源于通山，由西向东，注入长江，全长196公里，流域面积5310平方公里，在市境内阳新长81公里。
境内岩溶地貌发育，溶洞众多，很多具有旅游开发价值。全境地势由西南向东北倾斜，地形破碎，局部地方形成不完整的山间盆地。岗地坡度一般较为平缓，沿江一带标高较低。
市区形状呈“入”字形，三面环山，一面临江，风光绮丽的磁湖镶嵌市区中心。有东方山、西塞山、飞云洞等旅游景点。磁湖面积8平方公里宛如嵌在市区中心一颗璀璨的明珠，是闻名遐迩的风景旅游胜地。市区城市建设用地一般在海拨18－50米之间。