Machine learningDeep learning / NLP / CV

Self-supervised BERT-based Classification

Self-supervised BERT-based classificationは、GoogleのBidirectional Encoder Representations from Transformers (BERT) を利用し、大規模なラベルなしテキストで事前学習されたモデルを、ラベル付きサンプルでファインチューニングすることでテキストをカテゴリに割り当てる手法です。これは、感情分析、トピック分類、意図検出、および類似の自然言語処理 (NLP) タスクにおいて、限定的なラベル付きデータでも一貫して最先端の精度を達成します。

MethodMindで開く近日公開動画近日公開Download slides

手法の全文を読む

会員限定

無料アカウントでログインすると、このセクションを読めます。

ログイン

Method map

The neighbourhood of related methods — select a node to explore.

Self-supervised BERT-based Classification

自己教師あり学習による文埋め込み (Self-s…Semi-supervised BERT-bas…弱教師ありBERTベース分類

出典

Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), LNCS 11856, 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16 ↗

このページの引用方法

ScholarGate. (2026, June 3). Self-supervised BERT-based Text Classification (Pretrain then Fine-tune). ScholarGate. https://scholargate.app/ja/deep-learning/self-supervised-bert-based-classification

この手法を参照する項目

自己教師あり学習による文埋め込み (Self-supervised Sentence Embeddings)Semi-supervised BERT-based Classification 弱教師ありBERTベース分類

このページに誤りを見つけましたか?報告・修正提案 →