ScholarGate
Asisten
Machine learningDeep learning / NLP / CV

Transformer Multibahasa

Transformer multibahasa adalah model bahasa pra-terlatih yang dibangun di atas arsitektur transformer dan dilatih bersama pada teks dari puluhan hingga lebih dari seratus bahasa. Model seperti mBERT dan XLM-RoBERTa mempelajari representasi lintas-bahasa bersama, memungkinkan transfer zero-shot atau few-shot: model yang disesuaikan (fine-tuned) pada data bahasa Inggris sering kali dapat diterapkan langsung ke bahasa Prancis, Jerman, Arab, atau Tionghoa tanpa label spesifik bahasa.

Buka di MethodMindSegeraVideoSegeraDownload slides

Baca metode selengkapnya

Khusus anggota

Masuk dengan akun gratis untuk membaca bagian ini.

Masuk

Method map

The neighbourhood of related methods — select a node to explore.

+10 more

Sumber

  1. Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, pp. 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423
  2. Conneau, A., Khandelwal, K., Goyal, N., Chaudhary, V., Wenzek, G., Guzmán, F., Grave, E., Ott, M., Zettlemoyer, L., & Stoyanov, V. (2020). Unsupervised Cross-lingual Representation Learning at Scale. Proceedings of ACL 2020, pp. 8440–8451. Association for Computational Linguistics. DOI: 10.18653/v1/2020.acl-main.747

Cara menyitasi halaman ini

ScholarGate. (2026, June 3). Multilingual Transformer (Cross-lingual Pre-trained Language Model). ScholarGate. https://scholargate.app/id/deep-learning/multilingual-transformer

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Dirujuk oleh

ScholarGateMultilingual Transformer (Multilingual Transformer (Cross-lingual Pre-trained Language Model)). Diakses 2026-06-15 dari https://scholargate.app/id/deep-learning/multilingual-transformer · Set data: https://doi.org/10.5281/zenodo.20539026