LIME: Yerel Yorumlanabilir Model-Bağımsız Açıklamalar
Local Interpretable Model-agnostic Explanations (LIME) · Ayrıca şöyle bilinir: Local Surrogate Explanations, Model-Agnostic Local Explanations, Locally Faithful Approximations, Yerel Yorumlanabilir Model-Bağımsız Açıklamalar
Ribeiro, Singh ve Guestrin tarafından 2016'da tanıtılan LIME, ilgilenilen tek bir tahminin etrafında basit, yerel olarak sadık bir vekil model oluşturarak herhangi bir kara kutu sınıflandırıcı veya regresörün tahminlerini açıklar. LIME, küresel modeli açıklamak yerine, belirli bir örneğin neden o şekilde sınıflandırıldığını açıklamaya odaklanır, bu da derin sinir ağları ve topluluk yöntemleri gibi karmaşık modelleri son kullanıcılara, alan uzmanlarına ve denetçilere yorumlanabilir hale getirir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Herhangi bir kara kutu model — sinir ağları, gradyan artırma, SVM'ler veya opak API'ler — için modeli değiştirmeden insan tarafından okunabilir, örnek düzeyinde açıklamalara ihtiyaç duyduğunuzda LIME'ı kullanın. Tablosal, metin ve görüntü verileri için uygundur. LIME, yerel doğrusallığı varsayar: kara kutu, ilgilenilen örneğin yakınında yaklaşık olarak doğrusal davranır. Karar sınırı yerel olarak bile oldukça doğrusal değilse, özellik uzayı çok yüksek boyutluysa veya bozulan örnekler dağıtım dışıysa daha az güvenilirdir. Küresel açıklamalar için SHAP'ı; karşılaştırmalı akıl yürütme için karşı-olgusal açıklamaları düşünün.
Güçlü yönler & sınırlılıklar
- Model-Bağımsız: yalnızca tahmin üretebilen herhangi bir sınıflandırıcı veya regresör ile çalışır, kara kutuya yalnızca sorgu erişimi gerektirir.
- Örnek Düzeyinde Granülerlik: küresel model davranışını özetlemek yerine her tahmin için özel açıklamalar üretir.
- İnsan Tarafından Yorumlanabilir Çıktı: az sayıda özelliğe sahip seyrek doğrusal modeller, teknik olmayan paydaşlar ve alan uzmanları tarafından okunabilir.
- Birden Fazla Veri Modalitiesini Destekler: tek bir birleşik çerçevede tablosal özellikler, ham metin (kelime değiştirme) ve görüntüler (süper piksel maskeleri).
- Yalnızca Yerel Sadakat: açıklamalar açıklanan örneğe yakındır ve modelin özellik uzayının başka yerlerindeki davranışını yansıtmayabilir.
- Kararsızlık: örneğe veya komşuluk örneklemesi için rastgele tohumdaki küçük değişiklikler fark edilir derecede farklı açıklamalar üretebilir, bu da güvenilirliği azaltır.
- Çekirdek Hassasiyeti: çekirdek genişliği sigma'nın seçimi, hangi komşuluk örneklerinin vurgulandığını önemli ölçüde etkiler, ancak evrensel olarak prensipli bir seçim kriteri yoktur.
- Dağıtım Dışı Örnekler: bozulan komşular, orijinal modelin hiç eğitilmediği bölgelerde yer alabilir, bu da potansiyel olarak yanıltıcı sadakat tahminleri üretebilir.
SSS
LIME, SHAP'tan nasıl farklıdır?
Her iki yöntem de kara kutu modellerinin bireysel tahminlerini açıklar, ancak temel ve tutarlılık açısından farklılık gösterirler. SHAP, işbirlikçi oyun teorisinden Shapley değerlerini hesaplar, tüm özellikler boyunca yerel doğruluk ve tutarlılık gibi özellikleri garanti eder. LIME, yerel olarak ağırlıklandırılmış bir vekil uydurur ve açıklamaları rastgele örneklemeyle değişebilir. SHAP genellikle daha kararlı ve teorik olarak temellidir; LIME daha hızlı ve veri modalitiesleri arasında daha esnektir.
Güvenilir bir LIME açıklaması için kaç tane bozulan örnek gereklidir?
Orijinal LIME uygulaması, açıklama başına varsayılan olarak 5.000 bozulan örnek kullanır, bu genellikle tablosal ve metin görevleri için yeterlidir. Yüksek derecede doğrusal olmayan karar sınırları veya çok yüksek boyutlu özellik uzayları, kararlı katsayı tahminleri elde etmek için daha fazla örnek gerektirebilir. Uygulamada, kullanıcılar LIME'ı farklı tohumlarla yeniden çalıştırarak açıklama kararlılığını kontrol etmeli ve katsayılar çalıştırmalar arasında önemli ölçüde değişirse örnek sayısını artırmalıdır.
LIME, sınıflandırıcılar kadar regresyon modellerini de açıklayabilir mi?
Evet. LIME model-bağımsızdır ve bir girdiyi skaler veya olasılık çıktısına eşleyen herhangi bir fonksiyon için çalışır. Regresyon için, kara kutu çıktısı sürekli tahmin edilen değerdir ve LIME, ilgilenilen örneğin yakınındaki çıktıyı tahmin etmek için yerel olarak ağırlıklandırılmış doğrusal bir vekil uydurur. Elde edilen katsayılar, yerel komşulukta tahmin edilen büyüklüğü en çok hangi özelliklerin etkilediğini gösterir.
Kaynaklar
- Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). "Why should I trust you?": Explaining the predictions of any classifier. ACM SIGKDD, 1135–1144. DOI: 10.1145/2939672.2939778 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 2). Local Interpretable Model-agnostic Explanations (LIME). ScholarGate. https://scholargate.app/tr/machine-learning/lime
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Karşı-olgusal AçıklamalarMakine öğrenmesi↔ karşılaştır
- Rastgele OrmanMakine öğrenmesi↔ karşılaştır