AdaBoost
AdaBoost (Adaptive Boosting) · Ayrıca şöyle bilinir: AdaBoost (Adaptive Boosting), adaptive boosting, adaptif artırma
AdaBoost (Adaptive Boosting), Yoav Freund ve Robert Schapire tarafından 1997'de tanıtılan orijinal toplama (boosting) algoritmasıdır. Bu algoritma, yanlış sınıflandırdığı gözlemlere daha fazla ağırlık vererek bir dizi basit zayıf öğreniciyi birleştirir. Gradyan toplamanın öncüsü olan bu algoritma, basit, yorumlanabilir ve sınıflandırma için güçlü bir başlangıç noktasıdır.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
+1 tane daha
Ne zaman kullanılır
Sürekli, kategorik veya ikili özelliklere ve en az yaklaşık 50 gözleme sahip kesitsel tablo verilerinde sınıflandırma ve tahmin için iyi bir uyum sağlar; burada basit, yorumlanabilir bir toplama başlangıç noktası istersiniz. AdaBoost normal varsayımı yapmaz, ancak gürültülü verilere ve aykırı değerlere duyarlıdır, bu nedenle önce aykırı değerleri tarayın. Küçük ama sıfır olmayan aşırı uyum riskini yönetmek için tahminci sayısını kontrol edin. Küçük örneklemlerde, daha basit lojistik regresyon veya daha sağlam Rastgele Orman daha güvenlidir.
Güçlü yönler & sınırlılıklar
- Ayarlanacak az sayıda parametre ile basit ve yorumlanabilir.
- Derinliği 1 olan zayıf öğrenicileri tek bir güçlü sınıflandırıcıya dönüştürür, sağlam bir hazır başlangıç noktasıdır.
- Normal varsayımı yapmaz; sürekli, kategorik ve ikili özelliklerle başa çıkar.
- Gradyan toplamanın öncüsü, net bir uyarlanabilir ağırlıklandırma mekanizmasına sahiptir.
- Üstel kaybı nedeniyle gürültülü verilere ve aykırı değerlere duyarlıdır; aykırı değer taraması gereklidir.
- Aşırı uyum riski düşüktür ancak sıfır değildir ve tahminci sayısı aracılığıyla kontrol edilmelidir.
- Küçük örneklemlerde (yaklaşık 50'nin altındaki n) gürültülü gözlemler aşırı ağırlıklandırılır ve her yineleme performansı kötüleştirebilir.
SSS
AdaBoost, Rastgele Orman'dan nasıl farklıdır?
Rastgele Orman paralel olarak birçok bağımsız ağaç oluşturur ve bunları ortalar (bagging); AdaBoost, her biri önceki hatalara odaklanan zayıf öğrenicileri sıralı olarak oluşturur (boosting). Üstel kaybı nedeniyle AdaBoost, gürültüye ve aykırı değerlere daha duyarlıdır, oysa Rastgele Orman daha sağlamdır.
AdaBoost neden aykırı değerlere duyarlıdır?
Yanlış sınıflandırmayı hızla artan bir oranda cezalandıran üstel bir kayıp fonksiyonu kullanır. Sürekli yanlış sınıflandırılan noktalar — genellikle aykırı değerler veya gürültülü gözlemler — ağırlık kazanmaya devam eder, bu da sonraki yinelemelerde baskın olmalarına ve modeli bozmalarına neden olabilir.
Kaç tahminci kullanmalıyım?
Tahminci sayısı (zayıf öğreniciler), AdaBoost'un küçük ama gerçek aşırı uyum riskini kontrol eder. Doğrulama performansı iyileşirken artırın ve durduğunda veya kötüleşmeye başladığında durdurun.
Burada zayıf öğrenici nedir?
Tipik olarak bir karar kütüğü — derinliği 1 olan bir karar ağacı. Tek başına şanstan biraz daha iyidir, ancak AdaBoost, her biri doğruluğuyla ağırlıklandırılmış birçokını tek bir güçlü sınıflandırıcıda birleştirir.
Kaynaklar
- Freund, Y. & Schapire, R.E. (1997). A Decision-Theoretic Generalization of On-Line Learning and an Application to Boosting. Journal of Computer and System Sciences, 55(1), 119–139. DOI: 10.1006/jcss.1997.1504 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 1). AdaBoost (Adaptive Boosting). ScholarGate. https://scholargate.app/tr/machine-learning/adaboost
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Karar AğacıMakine öğrenmesi↔ karşılaştır
- Lojistik RegresyonAraştırma istatistiği↔ karşılaştır
- Rastgele OrmanMakine öğrenmesi↔ karşılaştır
- Yığma (Stacking)Makine öğrenmesi↔ karşılaştır