Machine learningDeep learning / NLP / CV

Мультимодальный трансформер

Мультимодальный трансформер расширяет стандартную архитектуру трансформера для обработки и совместного анализа двух или более входных модальностей — чаще всего текста и изображений, но также аудио, видео или структурированных данных. Слои кросс-модального внимания позволяют информации из одной модальности влиять на представления в другой, что обеспечивает выполнение таких задач, как визуальный ответ на вопросы, создание подписей к изображениям и мультимодальный анализ настроений.

Открыть в MethodMindСкороВидеоСкороDownload slides

Читать метод полностью

Только для участников

Войдите с бесплатным аккаунтом, чтобы прочитать этот раздел.

Войти

Method map

The neighbourhood of related methods — select a node to explore.

+15 more

Источники

  1. Lu, J., Batra, D., Parikh, D., & Lee, S. (2019). ViLBERT: Pretraining Task-Agnostic Visiolinguistic Representations for Vision-and-Language Tasks. Advances in Neural Information Processing Systems (NeurIPS), 32. link
  2. Radford, A., Kim, J. W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., ... & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. Proceedings of the 38th International Conference on Machine Learning (ICML), PMLR 139. link

Как цитировать эту страницу

ScholarGate. (2026, June 3). Multimodal Transformer (Cross-Modal Attention-Based Architecture). ScholarGate. https://scholargate.app/ru/deep-learning/multimodal-transformer

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Упоминается в

ScholarGateMultimodal Transformer (Multimodal Transformer (Cross-Modal Attention-Based Architecture)). Получено 2026-06-15 из https://scholargate.app/ru/deep-learning/multimodal-transformer · Набор данных: https://doi.org/10.5281/zenodo.20539026