Machine learningDeep learning / NLP / CV
自己教師ありGRU
自己教師ありGRUは、ラベルなしデータ自体から導出される、次ステップ予測やマスク化トークン回復などの自動構築された教師信号を用いて、ゲート付き回帰型ユニット(GRU)ネットワークを訓練する。学習されたシーケンス表現は、その後、少量のラベル付きデータセットでファインチューニングされ、注釈が少ない場合に高品質なシーケンスモデリングを可能にする。
手法の全文を読む
会員限定
ログイン無料アカウントでログインすると、このセクションを読めます。
Method map
The neighbourhood of related methods — select a node to explore.
出典
- Cho, K., van Merriënboer, B., Gulcehre, C., Bahdanau, D., Bougares, F., Schwenk, H., & Bengio, Y. (2014). Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation. In Proceedings of EMNLP 2014. link ↗
- Liu, X., Zhang, F., Hou, Z., Mian, L., Wang, Z., Zhang, J., & Tang, J. (2023). Self-Supervised Learning: Generative or Contrastive. IEEE Transactions on Knowledge and Data Engineering, 35(1), 857–876. DOI: 10.1109/TKDE.2021.3090866 ↗
このページの引用方法
ScholarGate. (2026, June 3). Self-supervised Gated Recurrent Unit. ScholarGate. https://scholargate.app/ja/deep-learning/self-supervised-gru
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Gated Recurrent Unit (GRU)深層学習↔ compare
- Long Short-Term Memory (LSTM)深層学習↔ compare
- 自己教師ありTransformer深層学習↔ compare
- 半教師ありGRU (Semi-supervised GRU)深層学習↔ compare