Multilingual Transformer
En flersproget transformer er en forudtrænet sprogmodel bygget på transformerarkitekturen og trænet samtidigt på tekst fra dusinvis til over hundrede sprog. Modeller som mBERT og XLM-RoBERTa lærer delte tværsproglige repræsentationer, hvilket muliggør nul-skuds- eller få-skuds-overførsel: en model finjusteret på engelske data kan ofte anvendes direkte på fransk, tysk, arabisk eller kinesisk uden sprogspecifikke etiketter.
Læs hele metoden
Log ind med en gratis konto for at læse dette afsnit.
Method map
The neighbourhood of related methods — select a node to explore.
+10 more
Kilder
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, pp. 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Conneau, A., Khandelwal, K., Goyal, N., Chaudhary, V., Wenzek, G., Guzmán, F., Grave, E., Ott, M., Zettlemoyer, L., & Stoyanov, V. (2020). Unsupervised Cross-lingual Representation Learning at Scale. Proceedings of ACL 2020, pp. 8440–8451. Association for Computational Linguistics. DOI: 10.18653/v1/2020.acl-main.747 ↗
Sådan citerer du denne side
ScholarGate. (2026, June 3). Multilingual Transformer (Cross-lingual Pre-trained Language Model). ScholarGate. https://scholargate.app/da/deep-learning/multilingual-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-baseret klassifikationDyb læring↔ compare
- Flersprogede sætningsindlejringerDyb læring↔ compare
- RoBERTa-baseret KlassifikationDyb læring↔ compare
- SætningsindlejringerDyb læring↔ compare
Refereret af
Har du fundet en fejl på denne side? Indberet den eller foreslå en rettelse →