Machine learningDeep learning / NLP / CV

Мультимодальний Трансформер

Мультимодальний Трансформер розширює стандартну архітектуру Трансформера для обробки та спільного міркування над двома або більше вхідними модальностями — найчастіше текстом та зображеннями, але також аудіо, відео або структурованими даними. Шари міжмодальної уваги дозволяють інформації з однієї модальності впливати на представлення в іншій, уможливлюючи такі завдання, як візуальне відповіді на запитання, створення підписів до зображень та мультимодальний аналіз тональності.

Відкрити у MethodMindНезабаромВідеоНезабаромDownload slides

Читати метод повністю

Лише для учасників

Увійдіть із безкоштовним обліковим записом, щоб прочитати цей розділ.

Увійти

Method map

The neighbourhood of related methods — select a node to explore.

+15 more

Джерела

  1. Lu, J., Batra, D., Parikh, D., & Lee, S. (2019). ViLBERT: Pretraining Task-Agnostic Visiolinguistic Representations for Vision-and-Language Tasks. Advances in Neural Information Processing Systems (NeurIPS), 32. link
  2. Radford, A., Kim, J. W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., ... & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. Proceedings of the 38th International Conference on Machine Learning (ICML), PMLR 139. link

Як цитувати цю сторінку

ScholarGate. (2026, June 3). Multimodal Transformer (Cross-Modal Attention-Based Architecture). ScholarGate. https://scholargate.app/uk/deep-learning/multimodal-transformer

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Згадується в

ScholarGateMultimodal Transformer (Multimodal Transformer (Cross-Modal Attention-Based Architecture)). Отримано 2026-06-15 з https://scholargate.app/uk/deep-learning/multimodal-transformer · Набір даних: https://doi.org/10.5281/zenodo.20539026