Machine learningDeep learning / NLP / CV

Мултимодален Вижън Трансформър

Мултимодалният Вижън Трансформър (Multimodal ViT) разширява архитектурата на Вижън Трансформър, за да обработва и подравнява едновременно репрезентации от множество модалности — обикновено изображения и текст — посредством механизми за самовнимание (self-attention) и кръстосано внимание (cross-attention). Чрез научаване на споделени или подравнени пространства на вграждане (embedding spaces) между модалностите, той позволява изпълнението на задачи като отговаряне на въпроси за визуално съдържание (visual question answering), извличане на информация чрез двойки изображение-текст (image-text retrieval), визуално локализиране (visual grounding) и генериране на описания към изображения (image captioning).

Отворете в MethodMindСкороВидеоСкороDownload slides

Прочетете целия метод

Само за членове

Влезте с безплатен профил, за да прочетете този раздел.

Вход

Method map

The neighbourhood of related methods — select a node to explore.

+1 more

Източници

  1. Dosovitskiy, A., Beyer, L., Kolesnikov, A., Weissenborn, D., Zhai, X., Unterthiner, T., Dehghani, M., Minderer, M., Heigold, G., Gelly, S., Uszkoreit, J., & Houlsby, N. (2021). An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale. In International Conference on Learning Representations (ICLR). link
  2. Radford, A., Kim, J. W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., Sastry, G., Askell, A., Mishkin, P., Clark, J., Krueger, G., & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. In Proceedings of the 38th International Conference on Machine Learning (ICML), PMLR 139. link

Как да цитирате тази страница

ScholarGate. (2026, June 3). Multimodal Vision Transformer (Multimodal ViT). ScholarGate. https://scholargate.app/bg/deep-learning/multimodal-vision-transformer

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Цитиран в

ScholarGateMultimodal Vision Transformer (Multimodal Vision Transformer (Multimodal ViT)). Извлечено на 2026-06-15 от https://scholargate.app/bg/deep-learning/multimodal-vision-transformer · Набор от данни: https://doi.org/10.5281/zenodo.20539026