Мультимодальный трансформер
Мультимодальный трансформер расширяет стандартную архитектуру трансформера для обработки и совместного анализа двух или более входных модальностей — чаще всего текста и изображений, но также аудио, видео или структурированных данных. Слои кросс-модального внимания позволяют информации из одной модальности влиять на представления в другой, что обеспечивает выполнение таких задач, как визуальный ответ на вопросы, создание подписей к изображениям и мультимодальный анализ настроений.
Читать метод полностью
Войдите с бесплатным аккаунтом, чтобы прочитать этот раздел.
Method map
The neighbourhood of related methods — select a node to explore.
+15 more
Источники
- Lu, J., Batra, D., Parikh, D., & Lee, S. (2019). ViLBERT: Pretraining Task-Agnostic Visiolinguistic Representations for Vision-and-Language Tasks. Advances in Neural Information Processing Systems (NeurIPS), 32. link ↗
- Radford, A., Kim, J. W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., ... & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. Proceedings of the 38th International Conference on Machine Learning (ICML), PMLR 139. link ↗
Как цитировать эту страницу
ScholarGate. (2026, June 3). Multimodal Transformer (Cross-Modal Attention-Based Architecture). ScholarGate. https://scholargate.app/ru/deep-learning/multimodal-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Классификация на основе BERTГлубокое обучение↔ compare
- Классификация изображенийГлубокое обучение↔ compare
- Мультимодальная классификация на основе BERTГлубокое обучение↔ compare
- Векторные представления предложенийГлубокое обучение↔ compare
- Vision TransformerГлубокое обучение↔ compare
Упоминается в
Нашли ошибку на этой странице? Сообщите о ней или предложите исправление →