SHAP (SHapley Additive exPlanations)
Ayrıca şöyle bilinir: SHAP Değerleri (Model Açıklanabilirlik), Shapley additive explanations, SHAP values, model explainability
SHAP, Scott Lundberg ve Su-In Lee tarafından 2017'de tanıtılan, işbirlikçi oyun teorisinden Shapley değerlerini kullanarak her bir özniteliğin bireysel bir tahmine ne kadar katkıda bulunduğunu ölçen ve böylece kara kutu makine öğrenmesi modellerinin çıktısını yorumlanabilir hale getiren bir model açıklama yöntemidir. Hem küresel açıklamaları (genel öznitelik önemi) hem de yerel açıklamaları (neden belirli bir tahminin o şekilde sonuçlandığı) destekler.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Çapraz kesitsel veya panel verilerde sürekli, kategorik veya ikili özniteliklere sahip eğitilmiş bir kara kutu modeliniz (örneğin XGBoost, rastgele orman veya derin öğrenme) olduğunda ve yalnızca doğruluğu rapor etmek yerine tahminlerini açıklamanız gerektiğinde SHAP kullanın. Hem küresel düzeyde (hangi öznitelikler genel olarak önemlidir) hem de yerel düzeyde (neden bir vakanın o şekilde tahmin edildiği) çalışır. En az yaklaşık 30 gözlem gereklidir; bunun altında, SHAP değerleri kararsız hale gelir ve doğrudan yorumlanabilir bir model, örneğin bir karar ağacı, daha güvenlidir.
Güçlü yönler & sınırlılıklar
- Kara kutu modelleri, her tahmini özniteliklerine atfederek yorumlanabilir hale getirir.
- Tek bir çerçeveden hem küresel öznitelik önemi hem de yerel tekil tahmin açıklamaları sağlar.
- Oyun teorisinden Shapley değerlerine dayanır, atıflara ilkeli, toplamsal bir adalet temeli verir.
- TreeSHAP, rastgele orman ve XGBoost gibi ağaç tabanlı modeller için hızlı, kesin açıklamalar sağlar.
- KernelSHAP modelden bağımsızdır, bu nedenle aynı yaklaşım neredeyse her eğitilmiş model için geçerlidir.
- Zaten eğitilmiş bir ML modeli gerektirir; SHAP bir modeli açıklar, bir model oluşturmaz.
- Küçük örneklemlerde (yaklaşık 30'un altındaki n) SHAP değerleri kararsızdır ve öznitelik katkıları güvenilmez hale gelir.
- KernelSHAP modelden bağımsızdır ancak özellikle büyük veri kümelerinde veya çok sayıda öznitelikte hesaplama açısından yavaştır.
- Atıflar, modelin davranışını açıklar, bir özniteliğin dünyadaki gerçek nedensel etkisini değil.
SSS
SHAP kullanmak için modelimi yeniden eğitmem gerekiyor mu?
Hayır. SHAP, zaten eğitmiş olduğunuz bir modeli — örneğin XGBoost, rastgele orman veya derin bir ağ — mevcut tahminlerini girdi özniteliklerine atfederek açıklar. Modeli yeniden uydurmaz veya değiştirmez.
TreeSHAP ve KernelSHAP arasındaki fark nedir?
TreeSHAP, rastgele orman ve XGBoost gibi ağaç tabanlı modeller için SHAP değerlerini hızlı ve kesin olarak hesaplar. KernelSHAP modelden bağımsızdır ve herhangi bir model için çalışır, ancak bir yaklaşımdır ve özellikle büyük verilerde önemli ölçüde daha yavaştır.
SHAP tek bir tahmini açıklayabilir mi?
Evet. Bu onun yerel modudur: tek bir vaka için her özniteliğin tahmini temel değerin ne kadar üzerine veya altına çektiğini gösterir ve katkılar tam olarak tahmine eklenir. Bunları veri kümesi boyunca toplamak küresel öznitelik önemini verir.
Ne kadar veriye ihtiyacım var?
En az yaklaşık 30 gözlem. Bunun altında, SHAP değerleri kararsız hale gelir ve öznitelik katkıları güvenilmez hale gelir, bu nedenle karar ağacı gibi doğrudan yorumlanabilir bir model daha güvenli bir seçimdir.
Kaynaklar
- Lundberg, S.M. & Lee, S.-I. (2017). A Unified Approach to Interpreting Model Predictions. Advances in Neural Information Processing Systems, 30, 4766–4777. link ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 1). SHAP (SHapley Additive exPlanations). ScholarGate. https://scholargate.app/tr/machine-learning/shap-analysis
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Karar AğacıMakine öğrenmesi↔ karşılaştır
- Gauss Karışım ModeliMakine öğrenmesi↔ karşılaştır
- Lojistik RegresyonAraştırma istatistiği↔ karşılaştır
- Rastgele OrmanMakine öğrenmesi↔ karşılaştır