Bagging (Önyükleme Toplama)
Bagging (Bootstrap Aggregating) · Ayrıca şöyle bilinir: Bootstrap Aggregating, bootstrap aggregation, bagged ensemble, bagged predictor, variance reduction ensemble
Bagging, Bootstrap Aggregating'in kısaltması olup, Leo Breiman tarafından 1996 yılında tanıtılan bir topluluk meta-algoritmasıdır. Bu algoritma, eğitim verisinin bağımsız olarak çekilmiş önyükleme örnekleri üzerinde bir temel öğrenicinin birden çok kopyasını eğitir ve tahminlerini birleştirir — regresyon için ortalama alma veya sınıflandırma için çoğunluk oyu ile — böylece herhangi bir tek temel öğreniciden önemli ölçüde daha düşük varyansa sahip nihai bir tahminci üretir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
+15 tane daha
Ne zaman kullanılır
Bagging, temel öğrenme algoritması yüksek varyanslı olduğunda — yani, eğitim verisindeki küçük pertürbasyonlara duyarlı olduğunda — ve bu varyansı azaltmanın ana hata kaynağı olduğu durumlarda uygundur. Tamamen büyütülmüş, budanmamış karar ağaçları kanonik örnektir. Bagging, tablo verileri üzerinde hem sınıflandırma hem de regresyon için uygundur, veri dağılımı hakkında varsayım gerektirmez ve karma özellik türlerini işler. B bağımsız önyükleme örneklerini destekleyecek kadar büyük bir veri kümesi olduğunda (yüzlerce tercih edilse de, en az yaklaşık 30 gözlem pratik bir alt sınırdır) en faydalıdır. Bagging, temel öğrenici zaten kararlı olduğunda (iyi belirtilmiş problemlerde doğrusal regresyon gibi) veya baskın hata kaynağı varyans yerine yanlılık olduğunda faydalı değildir — bu gibi durumlarda yükseltme (boosting) yöntemleri daha uygundur.
Güçlü yönler & sınırlılıklar
- Yanlılığı artırmadan tahminci varyansını doğrudan azaltır, herhangi bir tek temel modele göre daha kararlı tahminler üretir.
- Önemsiz derecede paralelleştirilebilir: her önyükleme iterasyonu bağımsızdır, bu da büyük toplulukları hesaplama açısından uygulanabilir kılar.
- Dahili OOB hata tahmini, ek veri maliyeti olmadan dürüst bir genelleme tahmini sağlar.
- Modelden bağımsız meta-algoritma: yeterince kararsız herhangi bir temel öğreniciyle (ağaçlar, sinir ağları, en yakın komşular) uyumludur.
- Eğitim kümesindeki aykırı değerlere karşı sağlamdır: herhangi bir tek sıra dışı gözlem, çoğu önyükleme örneğinde bulunmaz.
- Yanlılığı azaltmaz: eğer temel öğrenici yetersiz uyum sağlarsa, bagging bunu düzeltemez.
- Topluluk tahminleri, tek bir modele göre yorumlaması daha zordur; tek bir karar ağacının görsel yapısının bir benzeri yoktur.
- Bellek ve depolama B ile doğrusal olarak ölçeklenir: yüzlerce büyük modeli bellekte tutmak yasaklayıcı olabilir.
- B büyüdükçe kazançlar hızla azalır; performans genellikle B = 500'den çok önce plato yapar.
- Kararlı temel öğrenicilerde (örn. doğru spesifikasyona sahip doğrusal regresyon) bagging ihmal edilebilir bir iyileşme sağlar.
SSS
Kaç tane önyükleme örneği B kullanmalıyım?
Breiman (1996), performansın nispeten hızlı bir şekilde stabilize olduğunu bulmuştur; karar ağaçları için genellikle B = 50 ila 100 yeterlidir. B'yi birkaç yüzün üzerine çıkarmak azalan getiriler sağlar. B büyüdükçe OOB hatasını izleyin ve plato yaptığında durun.
Bagging ve Random Forest arasındaki fark nedir?
Random Forest, her ağacın her bölünmesinde rastgele özellik alt örneklemesi ekleyerek bagging'i genişletir. Bu ek rastgeleleştirme, temel öğrenicileri daha da de-korele eder ve sadece bagging'in başardığının ötesinde varyansı azaltır. Tamamen büyütülmüş ağaçlarla bagging, bu nedenle, her bölünmede tüm özelliklerin dikkate alındığı Random Forest'ın özel bir durumudur.
Bagging, karar ağaçları dışındaki öğrenicilere uygulanabilir mi?
Evet. Kararsız olan — eğitim verileri hafifçe değiştiğinde tahminleri önemli ölçüde değişen — herhangi bir öğrenici bagging'den faydalanabilir. Sinir ağları, k-en yakın komşular ve budanmamış regresyon ağaçları hepsi bu kategoriye girer. İyi belirtilmiş bir modele sahip doğrusal regresyon gibi kararlı öğreniciler, azaltılacak az varyans olduğu için çok az fayda sağlar.
OOB hatası, çapraz doğrulamanın güvenilir bir yerine geçer mi?
Orta ila büyük veri kümeleri için OOB hatası, genelleme hatasının neredeyse tarafsız bir tahminidir ve ek model uyarlamaları gerekmediği için hesaplama açısından ücretsizdir. Çok küçük veri kümelerinde (n yaklaşık 50'nin altında) OOB tahminleri iyimser olabilir ve çapraz doğrulama tercih edilir.
Kaynaklar
- Breiman, L. (1996). Bagging Predictors. Machine Learning, 24(2), 123–140. DOI: 10.1007/BF00058655 ↗
- Hastie, T., Tibshirani, R. & Friedman, J. (2009). The Elements of Statistical Learning (2nd ed., Ch. 8.7). Springer. ISBN: 978-0-387-84857-0
- James, G., Witten, D., Hastie, T. & Tibshirani, R. (2013). An Introduction to Statistical Learning (Ch. 8.2). Springer. ISBN: 978-1-4614-7138-7
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Bagging (Bootstrap Aggregating). ScholarGate. https://scholargate.app/tr/machine-learning/bagging
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- AdaBoostMakine öğrenmesi↔ karşılaştır
- Karar AğacıMakine öğrenmesi↔ karşılaştır
- Gradyan ArtırmaMakine öğrenmesi↔ karşılaştır
- Rastgele OrmanMakine öğrenmesi↔ karşılaştır