Ancien chemin du "Cordon des Vignes", la rue des Grammonts a été tracée au début du 19e siècle (probablement vers 1831) sur l'emplacement des jardins du couvent des Grammontains dont l'ordre avait été supprimé en 1769 et la propriété vendue aux enchères. La rue des Grammonts fait le lien entre la rue des Docteurs-Dumas (ancienne rue du Nord) desservant le nord-ouest de la ville et la rue de Lyon partant vers le nord-est. L'aménagement du square des Grammonts (actuellement square de Verdun) du côté nord de la rue a été réalisé en 1884 (à l'occasion d'une grande exposition organisée à Thiers). Un monument aux morts a été installé dans ce square en 1923 (voir dossier IA63001244).

Le côté sud de la rue est longé par de grands immeubles construits au 19e et au début du 20e siècle.