À la mort de son oncle Toghrul-Beg le 4 septembre 1063, il doit éliminer ses compétiteurs Kavurd du Kerman et Kutulmuch, pour accèder au trône à Ravy le 27 avril 1064. Il prend pour vizir le ministre Nizam al-Mulk et lui abandonne l’administration de l’empire, se consacrant aux opérations militaires.
En 1064, il prend Ani et annexe une partie de l’Arménie. Au printemps 1067, il attaque les Byzantins. Il envahit le Pont et avance jusqu’à Césarée de Cappadoce qu’il met à sac, tandis qu’une autre armée turque ravage la frontière de Cilicie. L’’empereur byzantin Romain IV Diogène décide d’intervenir en Orient avec des troupes en grande partie composées de mercenaires. Après avoir pris Hiérapolis* (Manbij) aux musulmans en Syrie, il remporte une nouvelle victoire devant cette ville le 20 novembre 1068, puis repasse le Taurus sans avoir pu empêcher les Turcs de prendre Amorium en Galatie. Le 10 décembre de cette même année, Alp Arslan, allié avec Gourgen II de Lorri, Aghsartan 1er de Kakhétie et l’émir de Tiflis, marche contre Bagrat IV de Géorgie. En quelques mois, ils ravagent et pillent les provinces de Kartli et d’Argvétie, avant de quitter la Géorgie en juillet 1069. Alp Arslan épouse une fille de Smbat Bagratouni et de Gourandoukht Bagration, fille de Georges 1er de Géorgie.
Vers 1070, il part en campagne en Syrie et vassalise Alep, mais assiège vainement Édesse. Il envisage la réunification du monde musulman par la conquête de l’Égypte Fatimide. Pendant le printemps et l’été 1071, son vassal le Turkmène Atsiz attaque la Palestine, prend Ramla aux Fatimides et assiège Jérusalem qui est prise en juin/juillet 1073.
Romain Diogène, qui a quitté Constantinople le 13 mars 1071 avec une armée de 600 000 hommes, marche à travers l’Anatolie jusqu’à Théodosiopolis, il prend Manzikert mais affaiblit ses forces en envoyant un contingent soutenir Roussel de Bailleul dans la région du lac de Van. Alp Arslan part à sa rencontre avec 12 000 cavaliers turcs, renforcés par 4 000 ghulams* (des soldats esclaves), et lui inflige une lourde défaite le 26 août à la bataille de Manzikert près du lac de Van. Romain IV Diogène est fait prisonnier, puis est libéré, mais déposé et remplacé par Michel VII Doukas, ce qui rend caduques les dispositions du traité. Une période de guerre civile commence dans l’Empire byzantin, qui ouvre l’Anatolie au peuplement turc.
Alp Arslan se tourne vers la Transoxiane. Il est tué par traîtrise le 15 décembre 1072, par un prisonnier probablement acheté par l’ennemi, lors d’une campagne contre les Qarakhanides. Son fils Malik Shah 1er lui succède.