Machine learningDeep learning / NLP / CV

Transformer multilingv

Un transformer multilingv este un model lingvistic pre-antrenat, construit pe arhitectura transformer și antrenat concomitent pe texte din zeci până la peste o sută de limbi. Modele precum mBERT și XLM-RoBERTa învață reprezentări comune interlingvistice, permițând transferul zero-shot sau few-shot: un model ajustat fin pe date în limba engleză poate fi adesea aplicat direct pentru franceză, germană, arabă sau chineză, fără etichete specifice limbii.

Deschide în MethodMindÎn curândVideoÎn curândDownload slides

Citește metoda completă

Doar pentru membri

Autentifică-te cu un cont gratuit pentru a citi această secțiune.

Autentificare

Method map

The neighbourhood of related methods — select a node to explore.

+10 more

Surse

  1. Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, pp. 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423
  2. Conneau, A., Khandelwal, K., Goyal, N., Chaudhary, V., Wenzek, G., Guzmán, F., Grave, E., Ott, M., Zettlemoyer, L., & Stoyanov, V. (2020). Unsupervised Cross-lingual Representation Learning at Scale. Proceedings of ACL 2020, pp. 8440–8451. Association for Computational Linguistics. DOI: 10.18653/v1/2020.acl-main.747

Cum se citează această pagină

ScholarGate. (2026, June 3). Multilingual Transformer (Cross-lingual Pre-trained Language Model). ScholarGate. https://scholargate.app/ro/deep-learning/multilingual-transformer

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Citat de

ScholarGateMultilingual Transformer (Multilingual Transformer (Cross-lingual Pre-trained Language Model)). Preluat la 2026-06-15 de pe https://scholargate.app/ro/deep-learning/multilingual-transformer · Set de date: https://doi.org/10.5281/zenodo.20539026