Murayama situa-se no corredor ferroviário da JR East através do interior da Prefeitura de Yamagata, entre Yamagata e Shinjo. A cidade tem uma estação principal de passageiros, a Estação de Murayama, que serve tanto os serviços Yamagata Shinkansen Tsubasa como os comboios regionais da Linha Principal Ou, também comercializada localmente como Linha Yamagata.
Os comboios de Murayama incluem serviços mini-Shinkansen que circulam sobre linhas convencionais convertidas na Prefeitura de Yamagata e comboios regionais para viagens mais curtas dentro da prefeitura. A Estação de Murayama é o ponto de acesso ferroviário para viagens intermunicipais em direção ao corredor de Tóquio via Fukushima, enquanto os serviços locais ligam comunidades próximas na área de Mogami e na bacia central de Yamagata.
As rotas ferroviárias a partir de Murayama seguem para sul em direção a Yamagata, Tendo, Kaminoyama-Onsen, Fukushima e Tóquio, e para norte em direção a Oishida, Shinjo e à extremidade norte do corredor Yamagata Shinkansen. Os bilhetes de comboio para Murayama são sobretudo bilhetes da JR East, com lugares reservados exigidos em muitos serviços Tsubasa e emissão de bilhetes mais simples para os comboios locais da Linha Yamagata. Reserve online comboios de e para Murayama em Rail Monsters.