Elastic Net Regresyonu
Elastic Net Regularized Regression · Ayrıca şöyle bilinir: elastic net, EN regression, L1+L2 regularized regression, combined lasso-ridge regression
Elastic net regresyonu, L1 (lasso) ve L2 (ridge) cezalarını tek bir düzenlileştirilmiş regresyon çerçevesinde birleştirir. Bir karıştırma parametresi alpha ve bir büzülme gücü lambda tarafından kontrol edilen bu yöntem, değişkenleri eş zamanlı olarak seçebilir ve ilişkili öngörücüleri ele alabilir; bu da saf lasso ve saf ridge'in tek başına uygulandığında karşılaştığı temel sınırlamaların üstesinden gelir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Daha fazla öngörücünüz olduğunda (p > n), öngörücüler yüksek derecede ilişkiliyse (renkli gruplar) veya yalnızca öngörücülerin bir alt kümesinin gerçekten ilgili olduğunu düşünüyorsanız elastic net kullanın. İlişkili öngörücülerin rastgele düşürülmek yerine birlikte tutulması gerektiğinde saf lasso'ya tercih edilir. Tarafsız katsayı tahminlerine nedensel yorumlama için ihtiyaç duyduğunuzda (düzenlileştirme katsayıları sıfıra doğru küçültür), ana hedefiniz belirli öngörücüler üzerindeki çıkarım olduğunda değil, tahmin olduğunda veya n, p'ye göre büyük ve öngörücüler ilişkisiz olduğunda (OLS yeterli ve bu ayarda daha yorumlanabilir) elastic net kullanmayın.
Güçlü yönler & sınırlılıklar
- OLS'nin yetersiz kaldığı p >> n durumlarını ele alır.
- Saf lasso'nun aksine, ilişkili öngörücüleri gruplandırırken otomatik değişken seçimi (katsayılar tam olarak sıfıra ayarlanır) gerçekleştirir.
- Saf lasso'dan daha kararlıdır; ilişkili özellikler birlikte seçilme veya düşürülme eğilimindedir.
- Esnektir: alpha, veri yapısına uyacak şekilde lasso-ridge dengesini ayarlar.
- Dışbükey amaç fonksiyonu küresel bir optimum sağlar ve verimli algoritmalar (koordinat inişi) büyük veri kümelerine ölçeklenebilir olmasını sağlar.
- Yanlılık getirir: büzülme tüm katsayıları sıfıra doğru çeker, bu nedenle elastic net tahminleri gerçek model doğrusal olsa bile yanlıdır.
- İki hiperparametre (lambda, alpha) seçimi gerektirir, bu da çapraz doğrulama hesaplama yükünü artırır.
- Seçim sonrası çıkarım önemsizdir; standart güven aralıkları düzeltme olmadan uygulanamaz.
- Öngörücüler ilişkisiz olduğunda ve örneklem büyük olduğunda, OLS daha basittir ve tarafsız tahminler sağlar.
SSS
Elastic net, lasso ve ridge'den nasıl farklıdır?
Lasso yalnızca L1 cezasını kullanır (bazı katsayıları sıfırlar, ancak ilişkili öngörücülerle kararsızdır). Ridge yalnızca L2 cezasını kullanır (tüm katsayıları küçültür ancak asla sıfır yapmaz). Elastic net her ikisini de harmanlar: alpha parametresi karışımı kontrol eder. 0 < alpha < 1 olduğunda, hem değişken seçimi hem de ilişkili öngörücülerin gruplandırılması elde edersiniz — tek başına herhangi bir cezaya göre ana avantaj budur.
Alpha ve lambda nasıl seçilir?
Çapraz doğrulama kullanın. Uygulamada, bir dizi alpha değeri (örneğin, 0, 0.25, 0.5, 0.75, 1.0) üzerinde ve her alpha için, log-aralıklı bir lambda değeri dizisi üzerinde bir ızgara araması yapın. Çapraz doğrulanmış tahmin hatasını en aza indiren (alpha, lambda) çiftini seçin. R'deki glmnet paketi ve Python'daki scikit-learn bunu verimli bir şekilde uygular.
Öngörücülerimi standartlaştırmam gerekiyor mu?
Evet. L1 ve L2 cezaları ham katsayı büyüklüklerini cezalandırır, bu nedenle daha büyük ölçeklerde ölçülen öngörücüler standartlaştırılmadıkça daha ağır cezalandırılır. Çoğu yazılım (glmnet, scikit-learn ElasticNet) varsayılan olarak dahili olarak standartlaştırır, ancak aracınız için bunu doğrulayın ve yorumlama için gerekirse katsayıları geri dönüştürün.
Elastic net'i sınıflandırma için kullanabilir miyim?
Evet. Karesel hata kaybını lojistik kayıpla değiştirmek, otomatik değişken seçimi yapan cezalı ikili veya çoklu sınıflandırma gerçekleştiren elastic net lojistik regresyonu verir. Aynı alpha ve lambda ayarlama yaklaşımı geçerlidir.
Elastic net'ten elde edilen katsayı tahminleri tarafsız mıdır?
Hayır. Düzenlileştirme, varyansı azaltmak ve aşırı uyumu önlemek için kasıtlı olarak yanlılık getirir. Tarafsız tahminler (örneğin, nedensel iddialar için) önemliyse, seçilen değişkenler üzerinde seçim sonrası OLS'yi düşünün veya tarafsızlaştırılmış lasso / seçici çıkarım yöntemlerini kullanın.
Kaynaklar
- Zou, H., & Hastie, T. (2005). Regularization and variable selection via the elastic net. Journal of the Royal Statistical Society: Series B (Statistical Methodology), 67(2), 301-320. DOI: 10.1111/j.1467-9868.2005.00503.x ↗
- Hastie, T., Tibshirani, R., & Friedman, J. (2009). The Elements of Statistical Learning: Data Mining, Inference, and Prediction (2nd ed.). Springer. ISBN: 978-0387848570
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Elastic Net Regularized Regression. ScholarGate. https://scholargate.app/tr/statistics/elastic-net-regression
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Lasso RegresyonuMakine öğrenmesi↔ karşılaştır
- En Küçük Kareler (EK) RegresyonuEkonometri↔ karşılaştır
- Kuantil RegresyonuEkonometri↔ karşılaştır
- Düzenlileştirilmiş Lojistik RegresyonMakine öğrenmesi↔ karşılaştır
- Ridge Regression (Sırt Regresyonu)Makine öğrenmesi↔ karşılaştır
- Sağlam Regresyonİstatistik↔ karşılaştır