Machine learningDeep learning / NLP / CV
Word2Vecによる転移学習
Word2Vecによる転移学習では、Mikolov et al. (2013)によって導入されたSkip-gramまたはCBOW目的関数を用いて大規模テキストコーパスで事前学習された単語埋め込みを、下流のNLPモデルの埋め込み層の初期化に利用します。このアプローチは、ラベル付きデータが少ないタスクに分布意味知識を転移させ、ランダム初期化を一貫して上回る性能を示します。
手法の全文を読む
会員限定
ログイン無料アカウントでログインすると、このセクションを読めます。
Method map
The neighbourhood of related methods — select a node to explore.
出典
- Mikolov, T., Sutskever, I., Chen, K., Corrado, G. S., & Dean, J. (2013). Distributed representations of words and phrases and their compositionality. Advances in Neural Information Processing Systems (NIPS), 26, 3111-3119. link ↗
- Kim, Y. (2014). Convolutional Neural Networks for Sentence Classification. Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), 1746-1751. DOI: 10.3115/v1/D14-1181 ↗
このページの引用方法
ScholarGate. (2026, June 3). Transfer Learning with Word2Vec Pre-trained Embeddings. ScholarGate. https://scholargate.app/ja/deep-learning/transfer-learning-with-word2vec
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Fine-Tuned Word2Vec深層学習↔ compare
- LDAトピックモデル深層学習↔ compare
- リカレントニューラルネットワーク (RNN)深層学習↔ compare
- 文埋め込み（Sentence Embeddings）深層学習↔ compare
- BERTベースの転移学習による分類深層学習↔ compare