Višemodalni NLP — razumijevanje vida i jezika
Višemodalni NLP (obrada prirodnog jezika) obuhvaća niz cjevovoda za obradu prirodnog jezika koji kombiniraju tekst s jednim ili više dodatnih modaliteta podataka — najčešće slikama, ali i zvukom i videom — za obavljanje zadataka razumijevanja i generiranja, kao što su vizualno odgovaranje na pitanja, opisivanje slika i višemodalno prepoznavanje sentimenta. Područje je svoj moderni oblik dobilo s CLIP-om (Radford et al., 2021) i od tada je napredovalo kroz arhitekture kao što je BLIP-2 (Li et al., 2023) koje premošćuju zamrznute kodere slika i velike jezične modele.
Pročitajte cijelu metodu
Prijavite se besplatnim računom kako biste pročitali ovaj odjeljak.
Karta metoda
Okruženje srodnih metoda — odaberite čvor za istraživanje.
Izvori
- Radford, A., Kim, J.W., Hallacy, C., Ramesh, A., Goh, G., Agarwal, S., Sastry, G., Askell, A., Mishkin, P., Clark, J., Krueger, G., & Sutskever, I. (2021). Learning Transferable Visual Models From Natural Language Supervision. Proceedings of the 38th International Conference on Machine Learning (ICML), 8748–8763. link ↗
- Li, J., Li, D., Savarese, S., & Hoi, S. (2023). BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models. Proceedings of the 40th International Conference on Machine Learning (ICML), 19730–19742. link ↗
Kako citirati ovu stranicu
ScholarGate. (2026, June 1). Multimodal Natural Language Processing. ScholarGate. https://scholargate.app/hr/text-mining/multimodal-nlp
Koja metoda?
Postavite ovu metodu uz njoj najsrodnije i pročitajte ih jednu uz drugu — knjižnica vam knjige stavlja na stol; izbor je na vama.
- Attention MechanismDuboko učenje↔ usporedi
- BERT EmbeddingsRudarenje teksta↔ usporedi
- Analiza sentimentaRudarenje teksta↔ usporedi
- Vision TransformerDuboko učenje↔ usporedi
Uočili ste pogrešku na ovoj stranici? Prijavite je ili predložite ispravak →