Ces bains occupaient un emplacement de choix, sur la berge sud du fleuve, au carrefour des deux grands axes de Lutèce, le cardo et le decumanus. Le nom de Cluny, hérité des abbés qui s’y sont installés au Moyen Âge, s’est imposé, même si l’on parle aussi de thermes du Nord. Ce que l’on voit aujourd’hui n’est qu’un reste d’un édifice bien plus grand. Les bâtisseurs ont tiré parti de la pente de la colline : la partie sud était chauffée par le sol, la partie nord ne l’était pas.
Le frigidarium est la pièce la plus spectaculaire, et la seule à avoir gardé sa couverture d’origine. Sa voûte d’arêtes culmine à 14,50 mètres, ce qui en fait l’une des plus hautes voûtes romaines encore debout en Occident. Les murs alternent briques et petits moellons, une technique appelée opus vittatum mixtum. Des restes de pigment bleu ont été repérés récemment sur la voûte, et de l’ocre rouge sur les parois, signes d’un décor coloré.
L’édifice a connu de nombreux réemplois. Au VIe siècle, le poète Venance Fortunat y voit un vaste palais où réside le roi Childebert Ier. Philippe Auguste l’offre en 1218 à son chambellan, puis les abbés de Cluny l’achètent en 1340. Les fouilles du XIXe siècle dégagent ensuite les ruines. En 1843, la Ville les cède à l’État, qui les associe au musée de Cluny, consacré au Moyen Âge.