Viacjazyčný Transformer
Viacjazyčný transformer je predtrénovaný jazykový model postavený na architektúre Transformer a trénovaný spoločne na texte z desiatok až viac ako sto jazykov. Modely ako mBERT a XLM-RoBERTa sa učia zdieľané krížovojazykové reprezentácie, čo umožňuje nulový alebo malý prenos (zero-shot alebo few-shot transfer): model doladený na anglických dátach sa často dá priamo použiť na francúzštinu, nemčinu, arabčinu alebo čínštinu bez jazykovo špecifických označení.
Prečítať celú metódu
Ak si chcete prečítať túto sekciu, prihláste sa s bezplatným účtom.
Method map
The neighbourhood of related methods — select a node to explore.
+10 more
Zdroje
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, pp. 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Conneau, A., Khandelwal, K., Goyal, N., Chaudhary, V., Wenzek, G., Guzmán, F., Grave, E., Ott, M., Zettlemoyer, L., & Stoyanov, V. (2020). Unsupervised Cross-lingual Representation Learning at Scale. Proceedings of ACL 2020, pp. 8440–8451. Association for Computational Linguistics. DOI: 10.18653/v1/2020.acl-main.747 ↗
Ako citovať túto stránku
ScholarGate. (2026, June 3). Multilingual Transformer (Cross-lingual Pre-trained Language Model). ScholarGate. https://scholargate.app/sk/deep-learning/multilingual-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Klasifikácia založená na BERTHlboké učenie↔ compare
- Viacjazykové vnorenia vietHlboké učenie↔ compare
- Klasifikácia založená na RoBERTaHlboké učenie↔ compare
- Vektorové reprezentácie vietHlboké učenie↔ compare
Odkazujú sem
Našli ste na tejto stránke chybu? Nahláste ju alebo navrhnite opravu →