Мултимодален Трансформер
Мултимодалният Трансформер разширява стандартната архитектура на Трансформера, за да обработва и съвместно да разсъждава върху две или повече входни модалности — най-често текст и изображения, но също така аудио, видео или структурирани данни. Кръстосано-модалните слоеве за внимание позволяват информация от една модалност да информира представянията в друга, което дава възможност за задачи като визуално отговаряне на въпроси, генериране на описания на изображения и мултимодален анализ на настроения.
Прочетете целия метод
Влезте с безплатен профил, за да прочетете този раздел.
Method map
The neighbourhood of related methods — select a node to explore.
+15 more
Източници
- Lu, J., Batra, D., Parikh, D., & Lee, S. (2019). ViLBERT: Pretraining Task-Agnostic Visiolinguistic Representations for Vision-and-Language Tasks. Advances in Neural Information Processing Systems (NeurIPS), 32. link ↗
- Radford, A., Kim, J. W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., ... & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. Proceedings of the 38th International Conference on Machine Learning (ICML), PMLR 139. link ↗
Как да цитирате тази страница
ScholarGate. (2026, June 3). Multimodal Transformer (Cross-Modal Attention-Based Architecture). ScholarGate. https://scholargate.app/bg/deep-learning/multimodal-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Класификация, базирана на BERTДълбоко обучение↔ compare
- Класификация на изображенияДълбоко обучение↔ compare
- Мултимодална класификация, базирана на BERTДълбоко обучение↔ compare
- Вграждане на изреченияДълбоко обучение↔ compare
- Vision TransformerДълбоко обучение↔ compare
Цитиран в
Забелязахте ли проблем на тази страница? Съобщете или предложете поправка →