Объяснимый Vision Transformer

Объяснимый Vision Transformer (Explainable Vision Transformer) сочетает высокую производительность Vision Transformers (ViT) в распознавании изображений с методами атрибуции — такими как распространение релевантности (relevance propagation), rollout внимания (attention rollout) или градиентно-взвешенное внимание (gradient-weighted attention) — которые выделяют области изображения, определяющие каждый прогноз. Такой подход позволяет исследователям и практикам аудировать решения модели и удовлетворять требования к прозрачности без ущерба для точности.