Né à Valladolid, fils de l’empereur Charles Quint et d’Isabelle du Portugal, il reçoit une éducation exclusivement espagnole, dispensée par des religieux castillans dont l’influence conforte l’intransigeance de son catholicisme. Il ne parle aucune des autres langues parlées dans les possessions de son père.
En 1543, il épouse sa cousine Marie Manuelle du Portugal, morte prématurément en 1545, qui ne lui donne qu’un fils, don Carlos. Ce dernier, en constant désaccord avec son père, mourra en prison en 1568. Philippe se remarie en 1554 avec Marie 1ère Tudor, espérant ainsi dresser l’Angleterre contre la France, mais la mort de son épouse sans descendance ne lui permet pas de mener à bien son projet.
Avant son accession au trône d’Espagne il a déjà reçu le duché de Milan en 1540, les royaumes de Naples et de Sicile en 1554 et les Pays-Bas, ainsi que d’importants territoires situés dans le Nouveau Monde. Dans les premiers temps de son règne, les forces espagnoles battent les Français lors des batailles de Saint-Quentin en 1557 et de Gravelines en 1558. La guerre contre la France durera 60 ans et se conclura par le traité du Cateau-Cambrésis en 1559, qui mit fin aux guerres d’Italie et assura la domination de l’Espagne sur le Piémont. Une des dispositions du traité prévoyait de surcroît le mariage de Philippe II avec Élisabeth de France, qui était fiancée à son fils don Carlos.
En 1563, il entrepris, aux environs de Madrid, la construction de l’Escurial, palais monastère dont le plan en forme de gril évoque le martyre de saint Laurent.
Après la mort de la reine, il épousa en 1570 Anne d’Autriche, qui lui donna un fils, le futur Philippe III.
Aux Pays-Bas, il combat les calvinistes, introduit l’Inquisition et restreint sévèrement les droits du peuple. À partir de 1567 commence la révolte des provinces calvinistes du Nord, qui formèrent à partir de 1579 l’Union d’Utrecht, opposée à l’Union d’Arras, qui regroupe les catholiques. Cette révolte est durement réprimée par le duc d’Albe.
En Espagne, la persécution par Philippe des morisques* provoque leur révolte en 1568 et conduit à leur fuite. En 1571, il envoie son demi-frère Juan d’Autriche à la tête des forces navales espagnoles pour contrer la puissance des Turcs en Méditerranée. La victoire de l’Espagne, alliée à Venise et au Saint-Siège lors de la bataille de Lépante, permet d’écarter définitivement le danger turc. Revendiquant les droits qu’il tient de sa mère, Il annexe le Portugal en 1580.
Opposé à l’Angleterre pour des raisons religieuses mais également parce que ce pays constitue la seule puissance maritime susceptible de rivaliser avec l’Espagne, il dépêche, en 1588, une flotte vers les îles Britanniques, qu’il baptise lui-même l’Invincible Armada, mais cette expédition, mal préparée, essuie un échec retentissant. De 1590 à 1598, il est de nouveau en guerre contre la France, apportant son soutien aux forces catholiques de la Ligue en lutte contre Henri IV.
A la fin de sa vie, espérant régler une fois pour toute le problème des Pays-Bas, il lègue ses provinces à sa fille Isabelle qui épouse son cousin l’archiduc Albert. Ceux-ci rendront une certaine prospérité à ces provinces. Faute de descendance, les Pays-Bas retourneront au roi d’Espagne à la mort de l’archiduc Albert en 1621.