黄山は安徽省南部に位置する重要な鉄道拠点で、長江デルタと安徽省内陸部および福建省を結ぶ高速路線の接点にあります。市内には主要な旅客駅が2つあり、高速列車用の黄山北駅と、在来線用の黄山駅があります。黄山を結ぶ旅客輸送は中国鉄路が運行しています。
黄山北発の高速列車は、杭州、上海、南京、合肥、福州方面へ向かうG系統とD系統の列車を利用します。在来線列車は黄山駅を利用し、旧ネットワーク上でより遅い地域列車や長距離列車が運行されています。黄山屯渓国際空港には直接接続する鉄道駅がないため、鉄道利用者は通常、黄山北駅または黄山駅を経由して乗り換えます。
黄山からの鉄道路線は、北東方面の杭州・上海、北西方面の合肥・南京、南方面の武夷山・福州、さらに全国の中国鉄路ネットワークへとつながっています。主な目的地都市には杭州、上海、南京、合肥、福州、北京が含まれます。黄山発着の列車はRail Monstersでオンライン予約できます。