Multimodal Vision Transformer
Der Multimodal Vision Transformer (Multimodal ViT) erweitert die Vision Transformer-Architektur, um Repräsentationen aus mehreren Modalitäten – typischerweise Bilder und Text – mithilfe von Self-Attention- und Cross-Attention-Mechanismen gemeinsam zu verarbeiten und abzugleichen. Durch das Erlernen gemeinsamer oder abgeglichener Einbettungsräume über Modalitäten hinweg ermöglicht er Aufgaben wie Visual Question Answering, Bild-Text-Retrieval, Visual Grounding und Bildunterschriftengenerierung.
Die vollständige Methode lesen
Melden Sie sich mit einem kostenlosen Konto an, um diesen Abschnitt zu lesen.
Method map
The neighbourhood of related methods — select a node to explore.
+1 more
Quellen
- Dosovitskiy, A., Beyer, L., Kolesnikov, A., Weissenborn, D., Zhai, X., Unterthiner, T., Dehghani, M., Minderer, M., Heigold, G., Gelly, S., Uszkoreit, J., & Houlsby, N. (2021). An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale. In International Conference on Learning Representations (ICLR). link ↗
- Radford, A., Kim, J. W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., Sastry, G., Askell, A., Mishkin, P., Clark, J., Krueger, G., & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. In Proceedings of the 38th International Conference on Machine Learning (ICML), PMLR 139. link ↗
So zitieren Sie diese Seite
ScholarGate. (2026, June 3). Multimodal Vision Transformer (Multimodal ViT). ScholarGate. https://scholargate.app/de/deep-learning/multimodal-vision-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-basierte KlassifikationDeep Learning↔ compare
- Feinabgestimmter Vision TransformerDeep Learning↔ compare
- BildklassifizierungDeep Learning↔ compare
- Multimodale BERT-basierte KlassifikationDeep Learning↔ compare
- Vision TransformerDeep Learning↔ compare
Referenziert von
Einen Fehler auf dieser Seite entdeckt? Melden oder Korrektur vorschlagen →