Multimodalni vizualni transformer
Multimodalni vizualni transformer (Multimodal ViT) proširuje arhitekturu Vision Transformer kako bi zajednički obrađivao i usklađivao reprezentacije iz više modaliteta — obično slika i teksta — koristeći mehanizme samopažnje (self-attention) i unakrsne pažnje (cross-attention). Učeći zajedničke ili usklađene prostore ugrađivanja (embedding spaces) preko modaliteta, omogućuje zadatke poput odgovaranja na vizualna pitanja (visual question answering), dohvaćanja slika i teksta (image-text retrieval), vizualnog uzemljenja (visual grounding) i opisivanja slika (image captioning).
Pročitajte cijelu metodu
Prijavite se besplatnim računom kako biste pročitali ovaj odjeljak.
Method map
The neighbourhood of related methods — select a node to explore.
+1 more
Izvori
- Dosovitskiy, A., Beyer, L., Kolesnikov, A., Weissenborn, D., Zhai, X., Unterthiner, T., Dehghani, M., Minderer, M., Heigold, G., Gelly, S., Uszkoreit, J., & Houlsby, N. (2021). An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale. In International Conference on Learning Representations (ICLR). link ↗
- Radford, A., Kim, J. W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., Sastry, G., Askell, A., Mishkin, P., Clark, J., Krueger, G., & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. In Proceedings of the 38th International Conference on Machine Learning (ICML), PMLR 139. link ↗
Kako citirati ovu stranicu
ScholarGate. (2026, June 3). Multimodal Vision Transformer (Multimodal ViT). ScholarGate. https://scholargate.app/hr/deep-learning/multimodal-vision-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-tem klasifikacijaDuboko učenje↔ compare
- Prilagođeni Vision TransformerDuboko učenje↔ compare
- Klasifikacija slikaDuboko učenje↔ compare
- Multimodalna klasifikacija utemeljena na BERT-uDuboko učenje↔ compare
- Vision TransformerDuboko učenje↔ compare
Citirana u
Uočili ste pogrešku na ovoj stranici? Prijavite je ili predložite ispravak →