Karşı-olgusal Açıklamalar
Counterfactual Explanations · Ayrıca şöyle bilinir: Algorithmic Recourse, Contrastive Explanations, What-If Explanations, Karşıolgusal Açıklamalar
Wachter, Mittelstadt ve Russell tarafından 2017'de tanıtılan karşı-olgusal açıklamalar, 'girdideki model çıktısını değiştirecek en küçük değişiklik nedir?' sorusunu yanıtlar. Bir modelin neden bir karar verdiğini açıklamak yerine, o kararın tersine çevrilmesi için neyin değişmesi gerektiğini tanımlarlar; bu da onları kredi puanlaması, tıbbi teşhis ve işe alım kararları gibi yüksek riskli uygulamalar için AB GDPR gibi çerçeveler altında özellikle değerli kılar.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Paydaşların otomatikleştirilmiş kararlar için eyleme geçirilebilir, bireysel düzeyde açıklamalara ihtiyaç duyduğu durumlarda - özellikle açıklama hakkına sahip olunan düzenlenmiş alanlarda (kredi, sigorta, tıp, işe alım) - karşı-olgusal açıklamaları kullanın. Yöntem modelden bağımsızdır ve yalnızca kara kutu sorgu erişimi gerektirir, ancak gradyan tabanlı varyantlar türevlenebilir bir model gerektirir. Küresel model yanlılığını tespit etmek için birincil denetim aracı olarak bu yöntemi kullanmaktan kaçının; bunun için SHAP veya kısmi bağımlılık grafikleri gibi küresel yöntemleri tercih edin. Ayrıca, birden fazla geçerli karşı-olgusalın mevcut olabileceğini ve aralarından seçim yapmanın ek kriterler olmadan prensipli bir yolu olmadığını göz önünde bulundurun.
Güçlü yönler & sınırlılıklar
- Modelden bağımsız: sorgulanabilen herhangi bir sınıflandırıcı veya regresör ile çalışır
- Eyleme geçirilebilir ve insan tarafından yorumlanabilir: kullanıcılara farklı bir sonuç elde etmek için neyi değiştirmeleri gerektiğini doğrudan söyler
- Yasal olarak ilgili: otomatikleştirilmiş kararlar için GDPR Madde 22 açıklama hakkı gereksinimleriyle uyumludur
- Modelin iç işleyişini açığa çıkarma ihtiyacı yoktur, fikri mülkiyeti ve gizliliği korur
- Gerçekçi olmayan veya değiştirilemez özellik kombinasyonlarına sahip karşı-olgusallar üretebilir (örneğin, yaş veya ırkı değiştirmek)
- Birden fazla karşı-olgusal mevcut olabilir ve ek kriterler olmadan aralarından seçim yapmak için prensipli bir yol olmayabilir
- Yakınlık tek başına fizibiliteyi veya etkilenen birey için nedensel olarak geçerli bir çareyi garanti etmez
- Gradyan tabanlı arama türevlenebilir modellerle sınırlıdır; kara kutu arama hesaplama açısından pahalı olabilir
SSS
Karşı-olgusal açıklamalar modelin iç parametrelerini ortaya çıkarır mı?
Hayır. Yöntem, modelin ağırlıklarını veya mimarisini değil, yalnızca modelin tahminlerine sorgu erişimi gerektirir. Bu, modelin özel mülkiyetli olduğu durumlarda dağıtımını güvenli hale getirir ve herhangi bir kara kutu sistemi için geçerliliğini korur. Ancak, tekrarlanan sorgular teorik olarak model davranışını yaklaşık olarak yeniden oluşturmak için kullanılabilir, bu nedenle dağıtım bağlamları sorgu oranı kontrollerini dikkate almalıdır.
Karşı-olgusal, hassasiyet analizi veya LIME açıklamasından nasıl farklıdır?
Hassasiyet analizi ve LIME, girdiler yerel olarak değiştikçe modelin çıktısının nasıl değiştiğini açıklayarak özellik önem puanları sağlar. Karşı-olgusal açıklamalar bunun yerine belirli bir hedef çıktıya ulaşan belirli bir alternatif girdiyi tanımlar. Karşı-olgusal, tanımlayıcı olan LIME'nin aksine, 'bu sonuç için bu özellikleri değiştirin' şeklinde kuralcı ve karşılaştırmalıdır ('bu tahmin için bu özellikler en etkiliydi').
Bir karşı-olgusal için 'eyleme geçirilebilir' ne anlama gelir ve neden önemlidir?
Eyleme geçirilebilir bir karşı-olgusal, yaş veya uyruk gibi değiştirilemez nitelikler yerine, bireyin gerçekçi bir şekilde değiştirebileceği gelir, tasarruf veya borç gibi özelliklere yönelik değişiklikler önerir. Eyleme geçirilebilirlik önemlidir çünkü karşı-olgusal açıklamaların temel değeri çare sağlamaktır. Önerilen değişiklikler imkansızsa, açıklama teknik olarak geçerli ancak pratikte işe yaramazdır ve yanlış umut uyandırarak veya kararı korunan niteliklerin etkilediği izlenimini vererek zarar verebilir.
Kaynaklar
- Wachter, S., Mittelstadt, B., & Russell, C. (2017). Counterfactual explanations without opening the black box: Automated decisions and the GDPR. Harvard Journal of Law & Technology, 31, 841–887. link ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 2). Counterfactual Explanations. ScholarGate. https://scholargate.app/tr/machine-learning/counterfactual-explanations
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- LIME: Yerel Yorumlanabilir Model-Bağımsız AçıklamalarMakine öğrenmesi↔ karşılaştır
- Lojistik RegresyonAraştırma istatistiği↔ karşılaştır