Fils de Thedbald, marquis de Canossa, et de Willa de Bologne. En 1014, il aida l’empereur à réprimer la révolte d’Arduin d’Ivrée. Il épousa en premières noces avant 1015 Richide de Bergame, fille de Giselbert, comte palatin.
Son père l’institua seul héritier, excluant ses frères. En 1016, il combattit le marquis de Turin aux côtés de l’empereur Henri II. En 1020, il dut mater une révolte de son frère Conrad. Il soutient la candidature de Conrad II et reçoit la Toscane, ce qui lui donne le contrôle des routes entre les Alpes et le sud de l’Italie. En 1032, il combat Eudes II de Blois, comte de Troyes et de Meaux.
En 1037, il épouse Béatrice, fille de Frédéric II, duc de Haute Lotharingie et comte de Bar, et nièce de l’impératrice Gisèle, femme de Conrad II. Ce mariage lui procure une forte influence dans l’Empire, et il est en butte aux jalousies et manœuvres des autres grands. Cela lui permet d’agrandir ses possessions, parfois aux dépens de l’Église. En 1049, il participe au synode de Pavie. La comtesse Mathilde de Toscane, sa fille, recueillit son héritage.