Sultan Alp Arslan, 200.000 kişilik ordusuyla Maveraünnehir topraklarına ilerlediği sırada, Berzem Kalesi komutanı Yusuf el-Hârezmî tarafından hançerlenerek öldürülmüştür. Bu olay, 1072 yılının Eylül ayında gerçekleşmiştir. Alp Arslan'ın ölümüyle ilgili bazı detaylar farklı kaynaklarda şu şekilde yer almaktadır: El Ömeri'nin anlatımı. Anonim Gürcü kaynağı. Nizâmül-Mülk'ün aktarımı. Alp Arslan, ölmeden önce veliahtı ve oğlu Melikşah’ın yerine geçmesini vasiyet etmiştir.