Višejezični Transformer
Višejezični transformer je unapred trenirani jezički model izgrađen na transformerskoj arhitekturi i zajednički treniran na tekstu sa desetina do preko stotinu jezika. Modeli kao što su mBERT i XLM-RoBERTa uče zajedničke unakrsnojezičke reprezentacije, omogućavajući zero-shot ili few-shot transfer: model fino podešen na engleskim podacima često se može direktno primeniti na francuski, nemački, arapski ili kineski bez jezički specifičnih oznaka.
Pročitajte celu metodu
Prijavite se besplatnim nalogom da biste pročitali ovaj odeljak.
Method map
The neighbourhood of related methods — select a node to explore.
+10 more
Izvori
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, pp. 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Conneau, A., Khandelwal, K., Goyal, N., Chaudhary, V., Wenzek, G., Guzmán, F., Grave, E., Ott, M., Zettlemoyer, L., & Stoyanov, V. (2020). Unsupervised Cross-lingual Representation Learning at Scale. Proceedings of ACL 2020, pp. 8440–8451. Association for Computational Linguistics. DOI: 10.18653/v1/2020.acl-main.747 ↗
Kako citirati ovu stranicu
ScholarGate. (2026, June 3). Multilingual Transformer (Cross-lingual Pre-trained Language Model). ScholarGate. https://scholargate.app/sr/deep-learning/multilingual-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-based ClassificationDuboko učenje↔ compare
- Višejezični ugrađeni prikazi rečenica (Multilingual sentence embeddings)Duboko učenje↔ compare
- Klasifikacija zasnovana na RoBERTa modeluDuboko učenje↔ compare
- Ugrađivanje rečenicaDuboko učenje↔ compare
Citirana u
Uočili ste grešku na ovoj stranici? Prijavite je ili predložite ispravku →