Après une convention de concession passée en juillet 1905 avec la compagnie PLM (Paris-Lyon-Méditerranée), puis une déclaration d'utilité publique faite en avril 1906, les trois tronçons de la ligne Gannat - la Ferté-Hauterive (de Gannat à Bayet, de Bayet à Saint-Pourçain-sur-Sioule et de Saint-Pourçain-sur-Sioule à la Ferté) ont été ouverts "à tous les trafics" en août 1932, exploités toujours par le PLM. Il s'agit d'ailleurs de la dernière ligne ouverte par cette compagnie.

Dès novembre 1938 cependant, alors que la ligne est désormais gérée par la SNCF, ces mêmes tronçons sont fermés au trafic voyageurs. En décembre 1950, la partie médiane de la ligne, de Bayet à Saint-Pourçain-sur-Sioule, est fermée aussi au trafic des marchandises, puis est déclassée en juillet 1969.

La section Gannat - Bayet, quant à elle, devient ligne touristique avec la création du "Vélorail de la Sioule" en juin 2010.

Les stations le long de la ligne étaient au nombre de 7 : Gannat, Saulzet, le Mayet-d’Ecole - Jenzat, Barberier – Broût-Vernet, Bayet, Saint-Pourçain-sur-Sioule et La Ferté-Hauterive.