Pada 1873, Pemerintah Kolonial Belanda mengeluarkan konsesi pembangunan jalur kereta api lintas Surabaya–Surakarta dan Madiun–Ponorogo untuk mendukung pengiriman hasil bumi.
Keseluruhan jalur kereta api Surabaya–Madiun selesai dibangun oleh Staatsspoorwegen (SS) pada 1 Juli 1882. Awalnya, bangunan Stasiun Madiun memiliki gaya arsitektur chalet yang diilhami dari bangunan rumah di Eropa dan memiliki tiga pintu di bagian muka stasiun
Pada 1948, Stasiun Madiun mengalami kerusakan parah akibat Peristiwa Madiun sehingga harus dilakukan perbaikan secara besar-besaran. Akibatnya, ciri khas bangunan stasiun gaya chalet sudah tidak terlihat hingga saat ini.
