Machine learningDeep learning / NLP / CV

Объяснимый Трансформер

Объяснимый Трансформер объединяет стандартную или предварительно обученную архитектуру Трансформера с пост-хок или встроенными методами интерпретируемости — такими как attention rollout, градиентно-взвешенное внимание или SHAP — чтобы выявить, какие входные токены или области повлияли на каждый прогноз. Этот подход сочетает высокую предсказательную точность с прозрачностью, необходимой в областях с высокими ставками или регулируемых доменах.

Открыть в MethodMindСкороВидеоСкороDownload slides

Читать метод полностью

Только для участников

Войдите с бесплатным аккаунтом, чтобы прочитать этот раздел.

Войти

Method map

The neighbourhood of related methods — select a node to explore.

+4 more

Источники

  1. Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30. link
  2. Chefer, H., Gur, S., & Wolf, L. (2021). Transformer interpretability beyond attention visualization. Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 782–791. DOI: 10.1109/CVPR46437.2021.00084

Как цитировать эту страницу

ScholarGate. (2026, June 3). Explainable Transformer (Interpretability-Augmented Transformer Model). ScholarGate. https://scholargate.app/ru/deep-learning/explainable-transformer

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Упоминается в

ScholarGateExplainable Transformer (Explainable Transformer (Interpretability-Augmented Transformer Model)). Получено 2026-06-15 из https://scholargate.app/ru/deep-learning/explainable-transformer · Набор данных: https://doi.org/10.5281/zenodo.20539026