Fils de Conrad Ier de Souabe et de Richlinde, fille de l’empereur Otton 1er.
En 1002 il fut un des compétiteurs au trône du Saint Empire romain germanique en tant que roi des Romains et prit d’assaut Strasbourg dont l’évêque, nommé Wizelin, s’était déclaré pour Henri II duc de Bavière [1], parce qu’ils étaient tous deux rivaux.
Henri sépara l’Alsace de la Souabe afin de prendre le contrôle du duché, une situation qui continua cependant lorsque son fils Hermann III régna.
Hermann II épousa Gerberge de Bourgogne , fille de Conrad III de Bourgogne.