Düzenlileştirilmiş Yığınlama Topluluğu (Regularized Stacking Ensemble)
Regularized Stacking Ensemble (Stacked Generalization with Regularized Meta-Learner) · Ayrıca şöyle bilinir: regularized stacked generalization, ridge stacking, lasso meta-learner ensemble, penalized stacking
Düzenlileştirilmiş Yığınlama Topluluğu, birden çok çeşitli temel öğreniciden gelen tahminlerin, bir düzenlileştirilmiş meta-öğrenici — tipik olarak ridge regresyon, lasso veya elastic net — tarafından birleştirilerek kombinasyon katmanındaki aşırı uyumu bastırdığı iki seviyeli bir topluluk yöntemidir. Düzenlileştirme, meta-öğrenicinin eğitim katmanı tahminlerindeki gürültüyü ezberlemek yerine, temel model çıktılarına kararlı, iyi kalibre edilmiş ağırlıklar atamasını sağlar.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Orta büyüklükte bir tablo veri kümeniz (tipik olarak en az 200 gözlem), verilerin farklı yönlerini yakalayan birkaç heterojen temel modeliniz olduğunda ve kombinasyon katmanını aşırı uyarlamadan bunları birleştirmek için prensipli bir yol istediğinizde düzenlileştirilmiş yığınlama kullanın. Özellikle, çeşitli modellerden ek doğruluk elde etmenin önemli olduğu tahmine dayalı modelleme yarışmalarında ve uygulamalı tahminlerde değerlidir. Veri kümesi küçük olduğunda (yaklaşık 100'den az gözlem), tüm temel modeller aynı veya yüksek oranda ilişkili olduğunda (çeşitlilik yoksa), bireysel katsayıların yorumlanabilirliği gerektiğinde veya hesaplama bütçesi kısıtlı olduğunda (çapraz doğrulama ile birçok temel modeli eğitmek pahalıdır) bundan kaçının.
Güçlü yönler & sınırlılıklar
- Herhangi bir tek modele göre hem yanlılığı hem de varyansı azaltan prensipli bir şekilde çeşitli temel öğrenicilerin tahminlerini birleştirir.
- Meta-öğrenici aşamasındaki düzenlileştirme, cezasız yığınlamanın bilinen bir zayıflığı olan kombinasyon katmanındaki aşırı uyumu açıkça kontrol eder.
- Zayıf katkıda bulunanları küçülterek veya sıfırlayarak hangi temel öğrenicilerin en tahmin edici olduğuna otomatik olarak uyum sağlar.
- Bireysel model ailelerinden bağımsız olarak herhangi bir temel öğrenici kümesiyle uyumludur.
- Katman dışı tahmin üretimi, temel ve meta katmanlar arasındaki veri sızıntısını önler.
- Hesaplama açısından pahalıdır: her temel öğreniciyi k kez (k-kat ÇD için) ve ayrıca son bir tam veri yeniden uyarlamasını gerektirir.
- Temel öğreniciler yeterince çeşitli olmadığında, iyi ayarlanmış tek bir modele göre kazançlar genellikle mütevazıdır.
- Optimal düzenlileştirme gücü lambda ayarlanmalıdır, bu da ek bir hiperparametre arama adımı ekler.
- Tahmin hattı karmaşıktır — birden çok uyarlanmış nesneyi birleştirir — bu da bakım yükünü artırır.
SSS
Daha karmaşık bir model yerine neden ridge regresyonu meta-öğrenici olarak kullanmalı?
Meta-özellik matrisi tipik olarak küçüktür (her temel öğrenici için bir sütun) ve gürültülü olabilir. Basit bir düzenlileştirilmiş doğrusal modelin, karmaşık bir öğreniciye göre meta-özellikleri aşırı uyarlama olasılığı daha düşüktür ve katsayıları her temel modelin ne kadar katkıda bulunduğunu gösterir.
Katman dışı tahmin için kaç katman kullanmalıyım?
Beş veya on katman yaygın tercihlerdir. Daha fazla katman OOF tahminlerindeki yanlılığı azaltır ancak hesaplamayı artırır. Küçük veri kümeleri için, her katman başına mevcut eğitim gözlemi sayısını en üst düzeye çıkarmak için on katman tercih edilir.
Düzenlileştirme gücü lambdayı nasıl seçerim?
Lambdayı meta-özellik matrisi üzerinde iç içe çapraz doğrulama ile ayarlayın veya aday bir ızgaradan lambdayı otomatik olarak seçen yerleşik çapraz doğrulamalı ridge'i (scikit-learn'de RidgeCV) kullanın.
Düzenlileştirilmiş yığınlama, gradyan artırmadan daha mı iyidir?
Mutlaka değil — eğer temel öğrenicilerden biri iyi ayarlanmış bir gradyan artırma modeli ise, yığınlama sadece marjinal kazançlar sağlayabilir. Yığınlamanın faydası, temel öğreniciler gerçekten çeşitli ve tamamlayıcı olduğunda en büyüktür.
İki seviyeden fazla yığınlayabilir miyim?
Evet, ancak ek seviyeler nadiren yardımcı olur ve karmaşıklığı ve aşırı uyum riskini keskin bir şekilde artırır. Çoğu uygulayıcı iki seviyede durur (temel öğreniciler artı bir meta-öğrenici).
Kaynaklar
- Wolpert, D. H. (1992). Stacked generalization. Neural Networks, 5(2), 241–259. DOI: 10.1016/S0893-6080(05)80023-1 ↗
- Breiman, L. (1996). Stacked Regressions. Machine Learning, 24(1), 49–64. DOI: 10.1007/BF00117832 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Regularized Stacking Ensemble (Stacked Generalization with Regularized Meta-Learner). ScholarGate. https://scholargate.app/tr/machine-learning/regularized-stacking-ensemble
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- YükseltmeMakine öğrenmesi↔ karşılaştır
- Rastgele OrmanMakine öğrenmesi↔ karşılaştır
- Regülerize Gradyan YükseltmeMakine öğrenmesi↔ karşılaştır
- Regularized Random ForestMakine öğrenmesi↔ karşılaştır
- Yığma (Stacking)Makine öğrenmesi↔ karşılaştır
- Oy Birliği TopluluğuMakine öğrenmesi↔ karşılaştır