Wielojęzyczny transformator
Wielojęzyczny transformator to wstępnie wytrenowany model językowy zbudowany na architekturze transformatora i trenowany wspólnie na tekstach z kilkudziesięciu do ponad stu języków. Modele takie jak mBERT i XLM-RoBERTa uczą się wspólnych reprezentacji międzyjęzykowych, umożliwiając transfer zero-shot lub few-shot: model dostrojony na danych angielskich często można zastosować bezpośrednio do języka francuskiego, niemieckiego, arabskiego lub chińskiego bez etykiet specyficznych dla danego języka.
Przeczytaj pełny opis metody
Zaloguj się na bezpłatne konto, aby przeczytać tę sekcję.
Method map
The neighbourhood of related methods — select a node to explore.
+10 more
Źródła
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, pp. 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Conneau, A., Khandelwal, K., Goyal, N., Chaudhary, V., Wenzek, G., Guzmán, F., Grave, E., Ott, M., Zettlemoyer, L., & Stoyanov, V. (2020). Unsupervised Cross-lingual Representation Learning at Scale. Proceedings of ACL 2020, pp. 8440–8451. Association for Computational Linguistics. DOI: 10.18653/v1/2020.acl-main.747 ↗
Jak cytować tę stronę
ScholarGate. (2026, June 3). Multilingual Transformer (Cross-lingual Pre-trained Language Model). ScholarGate. https://scholargate.app/pl/deep-learning/multilingual-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Klasyfikacja oparta na BERTUczenie głębokie↔ compare
- Wielojęzyczne osadzanie zdańUczenie głębokie↔ compare
- Klasyfikacja oparta na RoBERTaUczenie głębokie↔ compare
- Osadzanie zdańUczenie głębokie↔ compare
Cytowana przez
Widzisz błąd na tej stronie? Zgłoś go lub zaproponuj poprawkę →