Multimodalni Transformer
Multimodalni Transformer proširuje standardnu Transformer arhitekturu za obradu i zajedničko rezonovanje nad dve ili više ulaznih modaliteta — najčešće teksta i slika, ali takođe i zvuka, videa ili strukturiranih podataka. Slojevi unakrsne pažnje (cross-modal attention) omogućavaju informacijama iz jednog modaliteta da utiču na reprezentacije u drugom, omogućavajući zadatke kao što su vizuelno odgovaranje na pitanja, opisivanje slika i multimodalna analiza sentimenta.
Pročitajte celu metodu
Prijavite se besplatnim nalogom da biste pročitali ovaj odeljak.
Method map
The neighbourhood of related methods — select a node to explore.
+15 more
Izvori
- Lu, J., Batra, D., Parikh, D., & Lee, S. (2019). ViLBERT: Pretraining Task-Agnostic Visiolinguistic Representations for Vision-and-Language Tasks. Advances in Neural Information Processing Systems (NeurIPS), 32. link ↗
- Radford, A., Kim, J. W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., ... & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. Proceedings of the 38th International Conference on Machine Learning (ICML), PMLR 139. link ↗
Kako citirati ovu stranicu
ScholarGate. (2026, June 3). Multimodal Transformer (Cross-Modal Attention-Based Architecture). ScholarGate. https://scholargate.app/sr/deep-learning/multimodal-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-based ClassificationDuboko učenje↔ compare
- Класификација сликаDuboko učenje↔ compare
- Multimodalna klasifikacija zasnovana na BERT-uDuboko učenje↔ compare
- Ugrađivanje rečenicaDuboko učenje↔ compare
- Vision TransformerDuboko učenje↔ compare
Citirana u
Uočili ste grešku na ovoj stranici? Prijavite je ili predložite ispravku →