טרנספורמר רב-מודאלי
טרנספורמר רב-מודאלי מרחיב את ארכיטקטורת הטרנספורמר הסטנדרטית לעיבוד והסקת מסקנות משותפת על פני שתי מודאליות קלט או יותר — לרוב טקסט ותמונות, אך גם אודיו, וידאו או נתונים מובנים. שכבות קשב בין-מודאליות מאפשרות למידע ממודאליות אחת להשפיע על ייצוגים במודאליות אחרת, ומאפשרות משימות כגון מענה על שאלות ויזואליות, תיאור תמונות וניתוח סנטימנט רב-מודאלי.
קראו את השיטה במלואה
התחברו עם חשבון חינמי כדי לקרוא חלק זה.
Method map
The neighbourhood of related methods — select a node to explore.
+15 more
מקורות
- Lu, J., Batra, D., Parikh, D., & Lee, S. (2019). ViLBERT: Pretraining Task-Agnostic Visiolinguistic Representations for Vision-and-Language Tasks. Advances in Neural Information Processing Systems (NeurIPS), 32. link ↗
- Radford, A., Kim, J. W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., ... & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. Proceedings of the 38th International Conference on Machine Learning (ICML), PMLR 139. link ↗
איך לצטט עמוד זה
ScholarGate. (2026, June 3). Multimodal Transformer (Cross-Modal Attention-Based Architecture). ScholarGate. https://scholargate.app/he/deep-learning/multimodal-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- סיווג מבוסס BERTלמידה עמוקה↔ compare
- סיווג תמונהלמידה עמוקה↔ compare
- סיווג מבוסס BERT רב-מודאלילמידה עמוקה↔ compare
- ייצוגי משפטים (Sentence Embeddings)למידה עמוקה↔ compare
- טרנספורמר ראייהלמידה עמוקה↔ compare