ID3 algorithm
Genel bilgiler
ID3, İngilizcedeki Iterative Dichotomiser 3 kelimelerinin baş harflerinden oluşmaktadır ve Türkçeye, tekrarlı ikililikçi ağacı kelimeleri ile çevrilebilir.
Ağacın, isminden de anlaşılacağı üzere amacı sürekli olarak ağaçtaki verileri mümkün olan en büyük iki parçaya bölmek ve böylece ağacın derinliğini azaltmaktır.
ID3 algoritması da tam bu noktada devreye girer ve Shannon’un bilgi teorisine (information theory) dayalı olarak entropi (dağınım) hesabı yapar ve ağacı bu yaptığı hesaba göre dağıtmaya çalışır.