טרנספורמר ניתן להסבר
טרנספורמר ניתן להסבר משלב ארכיטקטורת טרנספורמר סטנדרטית או מאומנת מראש עם טכניקות פרשנות לאחר מעשה (post-hoc) או מובנות — כגון attention rollout, gradient-weighted attention, או SHAP — כדי לחשוף אילו אסימונים (tokens) או אזורים בקלט הניעו כל חיזוי. הגישה מגשרת בין דיוק חיזוי גבוה לשקיפות הנדרשת בתחומים בעלי סיכון גבוה או בתחומים מפוקחים.
קראו את השיטה במלואה
התחברו עם חשבון חינמי כדי לקרוא חלק זה.
Method map
The neighbourhood of related methods — select a node to explore.
+4 more
מקורות
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30. link ↗
- Chefer, H., Gur, S., & Wolf, L. (2021). Transformer interpretability beyond attention visualization. Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 782–791. DOI: 10.1109/CVPR46437.2021.00084 ↗
איך לצטט עמוד זה
ScholarGate. (2026, June 3). Explainable Transformer (Interpretability-Augmented Transformer Model). ScholarGate. https://scholargate.app/he/deep-learning/explainable-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- סיווג מבוסס BERTלמידה עמוקה↔ compare
- סיווג מבוסס BERT עם הסבריםלמידה עמוקה↔ compare
- טרנספורמר רב-מודאלילמידה עמוקה↔ compare
- טרנספורמר למידה-עצמיתלמידה עמוקה↔ compare