Klasyfikacja oparta na BERT
Klasyfikacja oparta na BERT polega na dostrajaniu modelu Google Bidirectional Encoder Representations from Transformers (BERT) na oznakowanym zbiorze danych tekstowych, zastępując ogólną, wstępnie wytrenowaną głowicę warstwą klasyfikacyjną specyficzną dla zadania. Wykorzystuje ona głęboki kontekst dwukierunkowy z setek milionów wstępnie wytrenowanych parametrów, aby zapewnić najnowocześniejszą dokładność w zadaniach klasyfikacji tekstów krótkich i średniej długości, przy stosunkowo niewielkich ilościach oznakowanych danych.
Przeczytaj pełny opis metody
Zaloguj się na bezpłatne konto, aby przeczytać tę sekcję.
Method map
The neighbourhood of related methods — select a node to explore.
+60 more
Źródła
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), Lecture Notes in Computer Science, vol 11856, pp. 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16 ↗
Jak cytować tę stronę
ScholarGate. (2026, June 3). Bidirectional Encoder Representations from Transformers for Text Classification. ScholarGate. https://scholargate.app/pl/deep-learning/bert-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Długa pamięć krótkotrwała (LSTM)Uczenie głębokie↔ compare
- Rekurencyjna Sieć NeuronowaUczenie głębokie↔ compare
- Klasyfikacja oparta na RoBERTaUczenie głębokie↔ compare
- Osadzanie zdańUczenie głębokie↔ compare
Cytowana przez
Widzisz błąd na tej stronie? Zgłoś go lub zaproponuj poprawkę →