Deuxième fils de l’empereur Rodolphe 1er de Habsbourg et de Gertrude de Hohenberg.
En décembre 1282, l’empereur Rodolphe 1er attribue à ses deux fils Albert 1er (roi des Romains) et Rodolphe, l’Autriche [1] et la Styrie [2], arrachées au Přemyslide [3] Ottokar II de Bohême en 1276.
Les frères ne règnent pas longtemps ensemble ; Par le traité de Rheinfelden signé le 1er juin 1283 [4], Rodolphe II renonce à ses droits en faveur d’Albert 1er. Il ne reçoit jamais de véritable compensation en dehors du titre essentiellement honorifique de duc de Souabe [5] que lui confère son père en 1289.
La même année, Rodolphe épouse à Prague Agnès de Bohême, fille du roi Ottokar II de Bohême. Elle lui donne un fils, Jean de Habsbourg, en 1290, mais Rodolphe meurt brutalement la même année.
Par la suite, son fils, déçu que la renonciation de son père le prive de tout droit sur les biens des Habsbourg, gagne le surnom de parricide en assassinant, en 1308, son oncle Albert 1er.