Machine learningDeep learning / NLP / CV

Классификация на основе BERT

Классификация на основе BERT — это дообучение модели Google Bidirectional Encoder Representations from Transformers на размеченном наборе текстовых данных путем замены стандартного предобученного слоя на классификационный слой, специфичный для задачи. Она использует глубокий двунаправленный контекст из сотен миллионов предобученных параметров для достижения наилучшей точности в задачах классификации коротких и средних текстов при относительно скромных объемах размеченных данных.

Открыть в MethodMindСкороВидеоСкороDownload slides

Читать метод полностью

Только для участников

Войдите с бесплатным аккаунтом, чтобы прочитать этот раздел.

Войти

Method map

The neighbourhood of related methods — select a node to explore.

+60 more

Источники

  1. Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423
  2. Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), Lecture Notes in Computer Science, vol 11856, pp. 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16

Как цитировать эту страницу

ScholarGate. (2026, June 3). Bidirectional Encoder Representations from Transformers for Text Classification. ScholarGate. https://scholargate.app/ru/deep-learning/bert-based-classification

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Упоминается в

Адаптация BERT-модели к домену на основе классификацииАдаптация к домену для распознавания именованных сущностейАдаптация к предметной области для ответов на вопросыАдаптация RoBERTa на основе домена для классификацииДоменно-адаптированные эмбеддинги предложенийАдаптация к домену при анализе тональностиАдаптация к домену при автоматическом реферировании текстовОбъяснимая классификация на основе BERTОбъяснимое распознавание именованных сущностейОбъясняемый поиск ответовОбъяснимая классификация на основе RoBERTaОбъяснимые встраивания предложенийОбъяснимый анализ тональностиОбъяснимое тематическое моделированиеОбъяснимый ТрансформерДообученная классификация на основе BERTFine-Tuned Doc2VecДообученная LSTMДообученное распознавание именованных сущностейДообученное вопросно-ответное извлечениеКлассификация на основе дообученной модели RoBERTaТонкая настройка эмбеддингов предложенийДообученная суммаризация текстовТонко-настроенное тематическое моделированиеДообученный ТрансформерДообученный Vision TransformerFine-Tuned Word2VecСверточный рекуррентный блок (GRU)Тематическая модель LDAДолговременная краткосрочная память (LSTM)Многоязычные ответы на вопросыМногоязычная классификация на основе RoBERTaМногоязычные вложения предложенийМногоязычный анализ тональностиМультиязычный трансформерМультимодальное распознавание именованных сущностейМультимодальный ответ на вопросыМультимодальная классификация на основе RoBERTaМультимодальное реферирование текстовМультимодальный трансформерМультимодальный Vision TransformerТематическая модель NMFРекуррентная нейронная сетьКлассификация на основе RoBERTaСамообучающаяся тематическая модель LDAСамоконтролируемые эмбеддинги предложенийСамостоятельное обучение для моделирования темТрансформер с самообучением (Self-supervised Transformer)Полуавтоматическая классификация на основе BERTМодель тематического моделирования с частичной разметкой на основе ЛДАПолуавтоматическое ответы на вопросыКлассификация на основе RoBERTa с частичной разметкойПолучение полуобучаемых векторных представлений предложенийПолуавтоматический анализ тональностиТрансформер с полуавтоматическим обучениемВекторные представления предложенийТематическое моделированиеТрансферное обучение с классификацией на основе BERTТрансферное обучение с использованием LSTMТрансферное обучение для распознавания именованных сущностейTransfer Learning with Sentence EmbeddingsTransfer Learning with Text SummarizationПеренос обучения с тематическим моделированиемКлассификация на основе BERT при слабом обученииСлабо контролируемое извлечение ответов на вопросыСлабо контролируемая классификация на основе RoBERTaWeakly supervised sentence embeddingsСлабо контролируемое тематическое моделированиеСлабо контролируемый ТрансформерСлабо контролируемый Word2Vec
ScholarGateBERT-based Classification (Bidirectional Encoder Representations from Transformers for Text Classification). Получено 2026-06-15 из https://scholargate.app/ru/deep-learning/bert-based-classification · Набор данных: https://doi.org/10.5281/zenodo.20539026