Boosting
Genel bilgiler
Boosting (Arttırma), bir çok zayıf öğreniciyi (weak learner) bir araya getirerek bir güçlü öğrenici (strong learner) oluşturmaktır.
Bir çok boosting metodunun temel yaklaşımı, tahmin edicileri kümülatif olarak eğitmektir. Genelde tahminleyici model olarak karar ağaçları kullanılır. Her ağaç orijinal bir veri kümesinin değiştirilmiş bir versiyonu ile eğitilir ve sonunda güçlü bir sınıflandırıcı oluşturulur.
En sık kullanılan boosting modelleri: AdaBoost (1995, Y. Freund), Gradient Boosting (2001, Friedman), XGBoost (2016, Washington Ünv.), LightGBM (2017, Microsoft) ve CatBoost (2018, Yandex).