Multimodaalne NLP – nägemise ja keele mõistmine
Multimodaalne NLP on loomuliku keele töötlemise (NLP) meetodite perekond, mis kombineerivad teksti ühe või mitme täiendava andmemodaalsusega – kõige sagedamini piltidega, aga ka heli ja videoga – et täita mõistmise ja genereerimise ülesandeid, nagu visuaalne küsimustele vastamine, piltide pealdistamine ja multimodaalne sentimentide tuvastamine. Valdkond omandas oma tänapäevase vormi CLIP-iga (Radford jt, 2021) ja on sellest ajast alates arenenud arhitektuuride, nagu BLIP-2 (Li jt, 2023) kaudu, mis ühendavad külmutatud pildikooderid ja suured keelemudelid.
Loe meetodi täielikku kirjeldust
Selle osa lugemiseks logi sisse tasuta kontoga.
Method map
The neighbourhood of related methods — select a node to explore.
Allikad
- Radford, A., Kim, J.W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., Sastry, G., Askell, A., Mishkin, P., Clark, J., Krueger, G., & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. Proceedings of the 38th International Conference on Machine Learning (ICML), 8748–8763. link ↗
- Li, J., Li, D., Savarese, S., & Hoi, S. (2023). BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models. Proceedings of the 40th International Conference on Machine Learning (ICML), 19730–19742. link ↗
Kuidas sellele lehele viidata
ScholarGate. (2026, June 1). Multimodal Natural Language Processing. ScholarGate. https://scholargate.app/et/text-mining/multimodal-nlp
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Tähelepanu mehhanismSüvaõpe↔ compare
- BERT-i manusedTekstikaeve↔ compare
- SentimentanalüüsTekstikaeve↔ compare
- Vision TransformerSüvaõpe↔ compare
Märkasid sellel lehel viga? Teata sellest või paku parandust →