Il est issu d’une grande famille aristocratique de châtelains, liée aux Mérovingiens, aux Carolingiens et aux Capétiens. Son père est Dalmas 1er de Semur dit le Grand, seigneur de Semur-en-Brionnais assassiné en 1048. Entré au monastère à l’âge de 15 ans, il est nommé prieur à 20 ans puis abbé de Nantua. En 1049, il devient l’abbé de Cluny, jusqu’à sa mort à 85 ans ! Il avait été formé par son prédécesseur et parent, Odilon de Cluny.
En 1054, avec son frère Geoffroy, il fonde le premier prieuré de bénédictines de Marcigny dépendant de Cluny. Sous son abbatiat, l’ordre de Cluny va s’étendre à toute l’Europe, de l’Angleterre à la Pologne et de l’Allemagne à l’Italie et l’Espagne. Il mit en chantier la 3ème abbaye de Cluny, qui deviendra au début du 13ème siècle la plus grande construction en Europe, et la plus grande église de la Chrétienté, et le demeurera jusqu’au 16ème siècle. Hugues fut le principal artisan du mouvement monastique clunisien pendant le dernier quart du 11ème siècle.
Les relations d’Hugues avec Ferdinand 1er et Alphonse VI de Castille, ainsi que son influence sur le pape Urbain II, qui fut avant son élection grand prieur à Cluny même sous l’abbatiat d’Hugues, firent de ce dernier l’une des plus puissantes et influentes figures de la fin du 11ème siècle. De plus, comme parrain d’Henri IV, empereur d’Allemagne, il joua également un rôle dans son conflit avec le pape Grégoire VII au cours de la Querelle des Investitures. Il refusa l’offre de Guillaume le Conquérant de réformer les monastères saxons.