Multilingual Transformer
En flerspråkig transformer är en förtränad språkmodell byggd på transformerarkitekturen och tränad gemensamt på text från dussintals till över hundra språk. Modeller som mBERT och XLM-RoBERTa lär sig delade tvärspråkliga representationer, vilket möjliggör nollskotts- eller fåskottsöverföring: en modell som finjusterats på engelska data kan ofta tillämpas direkt på franska, tyska, arabiska eller kinesiska utan språkspecifika etiketter.
Läs hela metoden
Logga in med ett kostnadsfritt konto för att läsa avsnittet.
Method map
The neighbourhood of related methods — select a node to explore.
+10 more
Källor
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, pp. 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Conneau, A., Khandelwal, K., Goyal, N., Chaudhary, V., Wenzek, G., Guzmán, F., Grave, E., Ott, M., Zettlemoyer, L., & Stoyanov, V. (2020). Unsupervised Cross-lingual Representation Learning at Scale. Proceedings of ACL 2020, pp. 8440–8451. Association for Computational Linguistics. DOI: 10.18653/v1/2020.acl-main.747 ↗
Så citerar du den här sidan
ScholarGate. (2026, June 3). Multilingual Transformer (Cross-lingual Pre-trained Language Model). ScholarGate. https://scholargate.app/sv/deep-learning/multilingual-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-baserad klassificeringDjupinlärning↔ compare
- Flerspråkiga meningsinbäddningarDjupinlärning↔ compare
- Klassificering baserad på RoBERTaDjupinlärning↔ compare
- MeningsinbäddningarDjupinlärning↔ compare
Refereras av
Hittade du ett fel på sidan? Rapportera eller föreslå en rättelse →