Efsane Kangal köpeklerinin atası olarak Alabay (Türkmen Çoban Köpeği) kabul edilmektedir .
Alabay, kökeni Milattan Önce 3. bin yıla dayanan, Orta Asya kökenli doğal bir ırktır . Genetik olarak Kafkas Çoban Köpeği, Akbaş ve Kangal gibi türlerle akrabadır .
Ayrıca, Kangal'ın atası olarak Hint bir mihracenin Osmanlı padişahına hediye ettiği bir köpek de rivayet edilmektedir . Bir diğer rivayete göre ise, Kangal, Asurlular ve Babilliler döneminde ortaya çıkmış ve aslan gibi vahşi hayvanlardan korunmak için kullanılmıştır .