Мултимодален НЛП — разбиране на визуално-езикови данни
Мултимодалният НЛП е семейство от конвейери за обработка на естествен език, които комбинират текст с една или повече допълнителни модалности данни — най-често изображения, но също и аудио и видео — за изпълнение на задачи за разбиране и генериране като визуално отговаряне на въпроси, генериране на описания на изображения и разпознаване на мултимодален сантимент. Областта придобива съвременната си форма с CLIP (Radford et al., 2021) и оттогава напредва чрез архитектури като BLIP-2 (Li et al., 2023), които свързват замразени енкодери за изображения и големи езикови модели.
Прочетете целия метод
Влезте с безплатен профил, за да прочетете този раздел.
Method map
The neighbourhood of related methods — select a node to explore.
Източници
- Radford, A., Kim, J.W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., Sastry, G., Askell, A., Mishkin, P., Clark, J., Krueger, G., & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. Proceedings of the 38th International Conference on Machine Learning (ICML), 8748–8763. link ↗
- Li, J., Li, D., Savarese, S., & Hoi, S. (2023). BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models. Proceedings of the 40th International Conference on Machine Learning (ICML), 19730–19742. link ↗
Как да цитирате тази страница
ScholarGate. (2026, June 1). Multimodal Natural Language Processing. ScholarGate. https://scholargate.app/bg/text-mining/multimodal-nlp
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Механизъм на вниманиетоДълбоко обучение↔ compare
- BERT EmbeddingsИзвличане на текст↔ compare
- Анализ на настроениятаИзвличане на текст↔ compare
- Vision TransformerДълбоко обучение↔ compare
Забелязахте ли проблем на тази страница? Съобщете или предложете поправка →