Multimodális transzformer
A multimodális transzformer (Multimodal Transformer) a standard transzformer architektúrát kiterjeszti két vagy több bemeneti modalitás – leggyakrabban szöveg és kép, de akár hang, videó vagy strukturált adat is – feldolgozására és közös következtetésre. A kereszt-modális figyelem (cross-modal attention) rétegek lehetővé teszik, hogy az egyik modalitásból származó információ befolyásolja a másikat, ami olyan feladatokat tesz lehetővé, mint a vizuális kérdés-válaszadás (visual question answering), képaláírás-generálás (image captioning) és multimodális szenzimentanalízis.
A teljes módszer elolvasása
Jelentkezzen be ingyenes fiókkal a szakasz elolvasásához.
Method map
The neighbourhood of related methods — select a node to explore.
+15 more
Források
- Lu, J., Batra, D., Parikh, D., & Lee, S. (2019). ViLBERT: Pretraining Task-Agnostic Visiolinguistic Representations for Vision-and-Language Tasks. Advances in Neural Information Processing Systems (NeurIPS), 32. link ↗
- Radford, A., Kim, J. W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., ... & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. Proceedings of the 38th International Conference on Machine Learning (ICML), PMLR 139. link ↗
Hogyan hivatkozzon erre az oldalra
ScholarGate. (2026, June 3). Multimodal Transformer (Cross-Modal Attention-Based Architecture). ScholarGate. https://scholargate.app/hu/deep-learning/multimodal-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-alapú osztályozásMélytanulás↔ compare
- KéposztályozásMélytanulás↔ compare
- Multimodális BERT-alapú osztályozásMélytanulás↔ compare
- MondatbeágyazásokMélytanulás↔ compare
- Vision TransformerMélytanulás↔ compare
Hivatkozik rá
Hibát talált ezen az oldalon? Jelentse, vagy javasoljon javítást →