Чтобы повысить экономический и культурный уровень Северного Кавказа, 2 января 1870 года было принято решение включить железную дорогу от Ростова до Владикавказа в сеть главных железных дорог страны. Тогда же было создано Общество Владикавказской дороги.

Железная дорога, как и планировалось, была построена за три года. Если учесть технику полуторавековой давности, наличие многочисленных мостов, предгорную и горную местность, где проходит дорога, то следует признать рекордные сроки этого строительства. Управляющим Владикавказской железной дороги, начиная с ее открытия в 1875 году и по 1908 год, был Иван Дмитриевич Иноземцев.

Первый поезд из Ростова до Владикавказа прошел через станцию Кумская (Минеральные Воды) 2 июля 1875 года. Позже магистраль была продлена до Порт-Петровска (Махачкала) и сомкнулась с Закавказской железной дорогой. 3 мая 1894 года Правительственной комиссией была принята ж/д ветка от Минеральных Вод до Кисловодска.  

В 1895 году вошла в строй ветка «Кавказская – Ставрополь». Правда, она доходила лишь до станции Палагиада, а далее, на Ставрополь, курсировали линейки и дилижансы. Прошло два года, прежде чем «чугунка» (так в простонародье называли железную дорогу) подошла к Ставрополю. С ее появлением жизнь губернского города резко оживилась. На привокзальной площади строились огромные ссыпки (амбары) для зерна, привозимого сюда крестьянами. Здесь же возникли скотобойни, паровые мельницы, склады для керосина, каменного угля.

На железной дороге происходили и трагические случаи, о чем свидетельствуют старинные фотографии.

Скорость паровозов тех лет была несравнима с сегодняшними локомотивами. Карикатуру на быстроту поездов Минераловодской железной дороги 1893 года подарил музею И.Т. Барилко.