Process / pipeline
BERT埋め込み — 文脈依存のテキスト表現
2019年にGoogle AIのDevlinらが発表したBERTベースのテキスト埋め込みは、双方向Transformerエンコーダーを用いてテキストを文脈依存の密ベクトルに変換する。単語の意味は文脈によって変化するため、BERTはWord2Vecのような静的な手法やLDAのようなトピックモデルよりも豊かな表現を生成する。
手法の全文を読む
会員限定
ログイン無料アカウントでログインすると、このセクションを読めます。
Method map
The neighbourhood of related methods — select a node to explore.
+21 more
出典
- Devlin, J., Chang, M.-W., Lee, K. & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. NAACL-HLT, 4171-4186. DOI: 10.18653/v1/N19-1423 ↗
- Tenney, I., Das, D. & Pavlick, E. (2019). BERT Rediscovers the Classical NLP Pipeline. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics (ACL), 4593-4601. DOI: 10.18653/v1/P19-1452 ↗
このページの引用方法
ScholarGate. (2026, June 1). BERT-Based Text Embeddings. ScholarGate. https://scholargate.app/ja/text-mining/bert-embeddings
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Doc2Vecテキストマイニング↔ compare
- GloVe埋め込みテキストマイニング↔ compare
- 感情分析テキストマイニング↔ compare
- Word2Vecテキストマイニング↔ compare
この手法を参照する項目
Automated Essay Scoring (AES)自動テキスト評価BERTopicNLPにおける常識推論NLPにおける対照学習クロスリンガル テキスト分析ドメイン適応偽ニュース検出Few-Shot Text ClassificationNLPにおけるジェンダーバイアス検出GloVe埋め込み幻覚検出ヘイトスピーチ検出意図検出語彙置換言語的受容性評価複数文書要約マルチモーダル自然言語処理NMFトピックモデリングパラフレーズ検出検索拡張生成（Retrieval-Augmented Generation, RAG）意味的類似性感情分析ソーシャルメディアNLPスタンス検出Text Coherence Scoringテキスト重複排除Text Infillingテキスト回帰