Bagging Ensemble
Bootstrap Aggregating Ensemble · Ayrıca şöyle bilinir: bootstrap aggregating
Bagging, yani bootstrap toplama (bootstrap aggregating) kısaltması, tek bir öğrenme algoritmasının birden çok kopyasını eğitim verisinin farklı rastgele alt kümeleri üzerinde eğreterek varyansı azaltan bir topluluk (ensemble) yöntemidir. Her alt küme, yerine koyarak rastgele örnekleme yoluyla oluşturulan bootstrap örneklemesiyle elde edilir. Tahminler çoğunluk oylaması (sınıflandırma) veya ortalama alma (regresyon) yoluyla birleştirilir. Leo Breiman tarafından 1996'da tanıtılan bagging, rastgele ormanların (random forests) temelini oluşturur ve özellikle yüksek varyanslı modellerde aşırı uyumu (overfitting) azaltmada etkilidir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Yüksek varyanslı (örneğin, aşırı uyum eğilimi gösteren karar ağaçları, yapay sinir ağları) modellerle çalışırken bagging kullanın. Temel öğrenicilerin kararsız olduğu—eğitim verisindeki küçük değişikliklere duyarlı olduğu—durumlarda en etkilidir. Bagging, düşük yanlılık, düşük varyanslı modeller (örneğin, küçük k ile k-NN, kararlı veriler üzerinde doğrusal regresyon) için daha az etkilidir. Ayrıca, her temel öğrenici bağımsız olarak eğitilebildiği için paralel hesaplamaya çok uygundur.
Güçlü yönler & sınırlılıklar
- Yanlılığı artırmadan varyansı azaltır, genelleştirmeyi iyileştirir.
- Herhangi bir temel öğrenici türüyle çalışır; ağaçlar gibi kararsız modeller kullanılabilir.
- Kolayca paralelleştirilebilir—her bootstrap örneği bağımsız olarak işlenebilir.
- Çıkarılmamış hata (out-of-bag error) hesaplaması yoluyla varyans tahminleri sağlar.
- Minimum hiperparametre ayarlamasıyla uygulaması basittir.
- Yanlılık azaltımı sağlamaz; yalnızca yüksek varyanslı temel öğreniciler için etkilidir.
- Hesaplama maliyeti, temel öğrenici sayısıyla doğrusal olarak ölçeklenir.
- Bootstrap örnekleri, kasıtlı örnekleme stratejilerine kıyasla çeşitlilikten yoksundur.
- Yüksek yanlılığa sahip temel modellerde (örneğin, karmaşık veriler üzerindeki doğrusal modeller) performansı iyileştirmeyebilir.
SSS
Kaç adet bootstrap örneği (B) kullanmalıyım?
B = 50-100 ile başlayın ve performansı izleyin; genellikle, faydalar B = 100-500 civarında platoya ulaşır. Varyans azaltma durursa B'yi artırın. Kritik uygulamalar için, hesaplama maliyetine rağmen B > 1000 gerekçelendirilebilir.
Çıkarılmamış hata (out-of-bag error) nedir ve nasıl kullanırım?
Her bootstrap örneği, orijinal verinin yaklaşık 1/3'ünü (ortalama olarak yaklaşık %36,8'ini) hariç tutar. Bu çıkarılmamış örnekler, ayrı bir doğrulama setine ihtiyaç duymadan belirli bir modeli doğrulamak için kullanılabilir. Tüm modellerin çıkarılmamış hatalarının ortalaması genelleme hatasını tahmin eder.
Bagging çapraz doğrulamadan daha mı iyidir?
Farklı amaçlara hizmet ederler. Çapraz doğrulama model performansını tahmin eder; bagging onu iyileştirir. Bir topluluk eğitmek için bagging'i ve doğrulamak için çıkarılmamış tahminleri kullanın, böylece k-katlı çapraz doğrulamanın ek yükünden kaçınılır.
Bagging k-NN gibi düşük varyanslı modelleri iyileştirebilir mi?
Etkili bir şekilde değil. Bagging yüksek varyanslı modeller için tasarlanmıştır. Düşük varyanslı modeller (kararlı, basit) varyans azaltmadan çok az fayda görür. Diğer topluluk yöntemlerini düşünün veya yanlılık azaltmaya odaklanın.
Kaynaklar
- Breiman, L. (1996). Bagging predictors. Machine Learning, 24(2), 123-140. DOI: 10.1007/BF00058655 ↗
- Efron, B. (1979). Bootstrap methods: another look at the jackknife. The Annals of Statistics, 7(1), 1-26. DOI: 10.1214/aos/1176344552 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Bootstrap Aggregating Ensemble. ScholarGate. https://scholargate.app/tr/ensemble-learning/bagging-ensemble
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- AdaBoostMakine öğrenmesi↔ karşılaştır
- Boosting EnsembleTopluluk öğrenmesi↔ karşılaştır
- Çoğunluk OylamasıTopluluk öğrenmesi↔ karşılaştır
- Rastgele OrmanMakine öğrenmesi↔ karşılaştır