Murayama se encuentra en el corredor ferroviario de JR East que atraviesa el interior de la prefectura de Yamagata, entre Yamagata y Shinjo. La ciudad cuenta con una estación principal de pasajeros, la estación de Murayama, que gestiona tanto los servicios Yamagata Shinkansen Tsubasa como los trenes regionales de la Ou Main Line, también comercializada localmente como la línea Yamagata.
Los trenes desde Murayama incluyen servicios mini-Shinkansen que circulan por vías convencionales adaptadas en la prefectura de Yamagata y trenes regionales para trayectos más cortos dentro de la prefectura. La estación de Murayama es el punto de acceso ferroviario para viajes interurbanos hacia el corredor de Tokio vía Fukushima, mientras que los servicios locales conectan las comunidades cercanas a lo largo de la zona de Mogami y la cuenca central de Yamagata.
Las rutas ferroviarias desde Murayama se dirigen al sur hacia Yamagata, Tendo, Kaminoyama-Onsen, Fukushima y Tokio, y al norte hacia Oishida, Shinjo y el extremo norte del corredor del Yamagata Shinkansen. Los billetes de tren para Murayama son principalmente billetes de JR East, con asientos reservados obligatorios en muchos servicios Tsubasa y una venta de billetes más sencilla para los trenes locales de la línea Yamagata. Reserve en línea los trenes desde y hacia Murayama en Rail Monsters.