Açıklanabilir Nesne Tespiti
Explainable Artificial Intelligence for Object Detection (XAI-OD) · Ayrıca şöyle bilinir: XAI Object Detection, Interpretable Object Detection, Transparent Object Detection, Explainable OD
Açıklanabilir nesne tespiti, YOLO, Faster R-CNN veya DETR gibi derin öğrenme tabanlı bir nesne dedektörünü, modelin belirli bir konumda neden bir sınırlayıcı kutu yerleştirdiğini ve belirli bir sınıf etiketini atadığını görselleştiren, böylece kararlarının insanlar tarafından denetlenebilir olmasını sağlayan, sonradan uygulanan (post-hoc) veya yerleşik açıklanabilirlik yöntemleriyle (Grad-CAM, LIME, SHAP, D-RISE) birleştirir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Düzenleyiciler, klinisyenler, güvenlik mühendisleri veya alan uzmanları gibi bir sonraki aşama hedef kitlesinin, sadece doğruluk kıyaslamalarının karşılanıp karşılanmadığını değil, bir tespitin neden yapıldığını denetlemesi gerektiğinde açıklanabilir nesne tespitini kullanın. Güvenlik açısından kritik uygulamalar (otonom sürüş, tıbbi görüntüleme, endüstriyel denetim) ve kaçırılan veya yanıltıcı bir tespitin önemli sonuçlar doğurduğu her alan için esastır. İyi doğrulanmış bir dedektörün yerine geçecek bir şey olarak güvenmeyin: açıklamalar sonradan uygulanır ve modelin doğru olduğunu garanti etmez, sadece muhakemesinin görünür olduğunu gösterir. Hesaplama bütçeleri son derece kısıtlı olduğunda veya tespit görevi düşük riskli ve doğruluk tek başına yeterli olduğunda bundan kaçının.
Güçlü yönler & sınırlılıklar
- Derin öğrenme dedektörlerini denetlenebilir hale getirerek, makine öğrenimi dışı paydaşlar ve düzenleyicilerle güven oluşturur.
- Dağıtımdan önce yanıltıcı korelasyonları (arka plan kısayolları, veri kümesi yanlılıkları) tanımlar.
- Hata ayıklamayı destekler: belirginlik haritaları, bir modelin yanlış görsel nedenlerle doğru sınıfı tespit ettiğini ortaya çıkarır.
- Yeniden eğitim gerektirmeden çoğu mevcut dedektöre sonradan uygulanabilir (Grad-CAM, LIME, D-RISE).
- Tıbbi görüntüleme ve otonom sistemler gibi yüksek riskli ortamlarda insan-yapay zeka işbirliğini geliştirir.
- Açıklamaların alan beklentileriyle uyumlu olduğuna dair kanıt sağlayarak tekrarlanabilirlik denetimlerini artırır.
- Sonradan uygulanan açıklamalar, model davranışını yaklaşık olarak belirler ve gerçek dahili hesaplamaya sadık olmayabilir.
- Pertürbasyon tabanlı yöntemler (LIME, D-RISE) hesaplama açısından pahalıdır — görüntü başına yüzlerce ila binlerce ileri geçiş gerektirir.
- Belirginlik haritaları, hiperparametreye (Grad-CAM katman seçimi, LIME segment sayısı) duyarlı olabilir ve tutarsız açıklamalar üretebilir.
- Tek bir altın standart sadakat metriği bulunmadığından, açıklama kalitesinin titiz bir şekilde değerlendirilmesi zordur.
- Çakışan tespitlere sahip çok nesneli sahneler için açıklamalar belirsiz veya karmaşık olabilir.
SSS
YOLO gibi tek aşamalı dedektörler için hangi XAI yöntemi en iyi sonucu verir?
Grad-CAM ve varyantları (Grad-CAM++, EigenCAM), CNN tabanlı tek aşamalı dedektörler için en yaygın seçeneklerdir çünkü hesaplama açısından verimlidirler ve yalnızca tek bir geri geçiş gerektirirler. D-RISE, herhangi bir dedektörle çalışan modelden bağımsız bir alternatiftir ancak önemli ölçüde daha yavaştır.
DETR gibi dönüştürücü tabanlı dedektörlerle Grad-CAM kullanabilir miyim?
Standart Grad-CAM, evrişimsel özellik haritalarını hedefler ve doğrudan saf dönüştürücü mimarilerine çevrilemez. DETR tarzı modeller için dikkat yayılımı (attention rollout), gradyan ağırlıklı dikkat veya D-RISE gibi pertürbasyon tabanlı yöntemler daha uygundur.
Açıklamamın modele sadık olup olmadığını nasıl anlarım?
Ekleme/çıkarma eğrileri veya AOPC ile değerlendirin: en yüksek atıf piksellerini sistematik olarak maskeleyin ve tespit güvenindeki düşüşü ölçün. Sadık bir açıklama, en çok atfedilen bölgeler kaldırıldığında büyük bir güven düşüşüne neden olmalıdır.
Bir XAI yöntemi uygulamak dedektörün tahminlerini değiştirir mi?
Hayır. Grad-CAM, LIME ve D-RISE gibi sonradan uygulanan yöntemler modeli veya tahminlerini değiştirmez. Sadece zaten hesaplanmış çıktıları analiz eder ve görselleştirirler. Dedektörün davranışı değişmez.
Açıklanabilir nesne tespiti yönetmelik tarafından zorunlu mu?
AB Yapay Zeka Yasası (2024), belirli tespit sistemlerini (örn. güvenlik açısından kritik altyapıda veya biyometrik bağlamlarda) yüksek riskli olarak sınıflandırır ve şeffaflık ile insan denetimi gerektirir. Açıklanabilirlik araçları, yasa belirli bir teknik yöntemi zorunlu kılmasa da, bu gereksinimlere uyumu doğrudan destekler.
Kaynaklar
- Selvaraju, R. R., Cogswell, M., Das, A., Vedantam, R., Parikh, D., & Batra, D. (2017). Grad-CAM: Visual Explanations from Deep Networks via Gradient-Based Localization. Proceedings of the IEEE International Conference on Computer Vision (ICCV), 618–626. DOI: 10.1109/ICCV.2017.74 ↗
- Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). 'Why Should I Trust You?': Explaining the Predictions of Any Classifier. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 1135–1144. DOI: 10.1145/2939672.2939778 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Explainable Artificial Intelligence for Object Detection (XAI-OD). ScholarGate. https://scholargate.app/tr/deep-learning/explainable-object-detection
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Açıklanabilir Görüntü SınıflandırmasıDerin öğrenme↔ karşılaştır
- Açıklanabilir Vision TransformerDerin öğrenme↔ karşılaştır
- Örnek BölütlemeDerin öğrenme↔ karşılaştır
- Nesne TespitiDerin öğrenme↔ karşılaştır
- Semantik SegmentasyonDerin öğrenme↔ karşılaştır