Multilinguïstische Transformer
Een multilinguïstische transformer is een vooraf getraind taalmodel gebouwd op de transformer-architectuur en gezamenlijk getraind op tekst uit tientallen tot meer dan honderd talen. Modellen zoals mBERT en XLM-RoBERTa leren gedeelde crosslinguïstische representaties, wat zero-shot of few-shot transfer mogelijk maakt: een model dat is gefinetuned op Engelse data kan vaak direct worden toegepast op Frans, Duits, Arabisch of Chinees zonder taalspecifieke labels.
Lees de volledige methode
Log in met een gratis account om dit onderdeel te lezen.
Method map
The neighbourhood of related methods — select a node to explore.
+10 more
Bronnen
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, pp. 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Conneau, A., Khandelwal, K., Goyal, N., Chaudhary, V., Wenzek, G., Guzmán, F., Grave, E., Ott, M., Zettlemoyer, L., & Stoyanov, V. (2020). Unsupervised Cross-lingual Representation Learning at Scale. Proceedings of ACL 2020, pp. 8440–8451. Association for Computational Linguistics. DOI: 10.18653/v1/2020.acl-main.747 ↗
Deze pagina citeren
ScholarGate. (2026, June 3). Multilingual Transformer (Cross-lingual Pre-trained Language Model). ScholarGate. https://scholargate.app/nl/deep-learning/multilingual-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-gebaseerde ClassificatieDeep learning↔ compare
- Meertalige Zins-EmbeddingsDeep learning↔ compare
- RoBERTa-gebaseerde ClassificatieDeep learning↔ compare
- Sentence EmbeddingsDeep learning↔ compare
Geciteerd door
Een fout op deze pagina gezien? Meld het of stel een correctie voor →