Transformator multimodalny
Transformator multimodalny rozszerza standardową architekturę Transformera o przetwarzanie i wspólne wnioskowanie na podstawie dwóch lub więcej modalności wejściowych – najczęściej tekstu i obrazów, ale także dźwięku, wideo lub danych strukturalnych. Warstwy uwagi krzyżowej (cross-modal attention) pozwalają informacjom z jednej modalności wpływać na reprezentacje w innej, umożliwiając realizację zadań takich jak odpowiadanie na pytania wizualne, generowanie opisów obrazów i multimodalna analiza sentymentu.
Przeczytaj pełny opis metody
Zaloguj się na bezpłatne konto, aby przeczytać tę sekcję.
Method map
The neighbourhood of related methods — select a node to explore.
+15 more
Źródła
- Lu, J., Batra, D., Parikh, D., & Lee, S. (2019). ViLBERT: Pretraining Task-Agnostic Visiolinguistic Representations for Vision-and-Language Tasks. Advances in Neural Information Processing Systems (NeurIPS), 32. link ↗
- Radford, A., Kim, J. W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., ... & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. Proceedings of the 38th International Conference on Machine Learning (ICML), PMLR 139. link ↗
Jak cytować tę stronę
ScholarGate. (2026, June 3). Multimodal Transformer (Cross-Modal Attention-Based Architecture). ScholarGate. https://scholargate.app/pl/deep-learning/multimodal-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Klasyfikacja oparta na BERTUczenie głębokie↔ compare
- Klasyfikacja obrazówUczenie głębokie↔ compare
- Klasyfikacja multimodalna oparta na BERTUczenie głębokie↔ compare
- Osadzanie zdańUczenie głębokie↔ compare
- Vision TransformerUczenie głębokie↔ compare
Cytowana przez
Widzisz błąd na tej stronie? Zgłoś go lub zaproponuj poprawkę →