Murayama leży na korytarzu kolejowym JR East biegnącym przez śródlądową prefekturę Yamagata, między Yamagata a Shinjo. Miasto ma jedną główną pasażerską stację kolejową, Murayama Station, która obsługuje zarówno połączenia Yamagata Shinkansen Tsubasa, jak i pociągi regionalne na linii Ou Main Line, lokalnie promowanej również jako Yamagata Line.
Pociągi z Murayama obejmują usługi mini-Shinkansen kursujące po przebudowanych tradycyjnych torach w prefekturze Yamagata oraz pociągi regionalne na krótsze podróże w obrębie prefektury. Murayama Station jest punktem dostępu kolejowego dla podróży między miastami w kierunku korytarza tokijskiego przez Fukushima, a lokalne połączenia łączą pobliskie społeczności wzdłuż obszaru Mogami i centralnej niecki Yamagata.
Trasy kolejowe z Murayama prowadzą na południe do Yamagata, Tendo, Kaminoyama-Onsen, Fukushima i Tokyo oraz na północ do Oishida, Shinjo i północnego końca korytarza Yamagata Shinkansen. Bilety kolejowe do Murayama to głównie bilety JR East, przy czym na wielu połączeniach Tsubasa wymagane są miejsca rezerwowane, a lokalne pociągi Yamagata Line mają prostszy system biletowy. Zarezerwuj pociągi do i z Murayama online w Rail Monsters.