Классификация на основе BERT
Классификация на основе BERT — это дообучение модели Google Bidirectional Encoder Representations from Transformers на размеченном наборе текстовых данных путем замены стандартного предобученного слоя на классификационный слой, специфичный для задачи. Она использует глубокий двунаправленный контекст из сотен миллионов предобученных параметров для достижения наилучшей точности в задачах классификации коротких и средних текстов при относительно скромных объемах размеченных данных.
Читать метод полностью
Войдите с бесплатным аккаунтом, чтобы прочитать этот раздел.
Method map
The neighbourhood of related methods — select a node to explore.
+60 more
Источники
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), Lecture Notes in Computer Science, vol 11856, pp. 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16 ↗
Как цитировать эту страницу
ScholarGate. (2026, June 3). Bidirectional Encoder Representations from Transformers for Text Classification. ScholarGate. https://scholargate.app/ru/deep-learning/bert-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Долговременная краткосрочная память (LSTM)Глубокое обучение↔ compare
- Рекуррентная нейронная сетьГлубокое обучение↔ compare
- Классификация на основе RoBERTaГлубокое обучение↔ compare
- Векторные представления предложенийГлубокое обучение↔ compare
Упоминается в
Нашли ошибку на этой странице? Сообщите о ней или предложите исправление →