Machine learningDeep learning / NLP / CV
Fine-Tuned Transformer
Fine-tuning a Transformerとは、BERT、GPT、ViTのような大規模事前学習済みモデルを、ラベル付きターゲットデータセット上で勾配ベースの学習を継続することにより、特定のダウンストリームタスクに適応させることである。この二段階パラダイム（事前学習、次にファインチューニング）は、ゼロから学習させるよりもはるかに少ないタスク固有データで、自然言語処理（NLP）およびコンピュータビジョンタスク全体で最先端の結果を一貫して達成する。
手法の全文を読む
会員限定
ログイン無料アカウントでログインすると、このセクションを読めます。
Method map
The neighbourhood of related methods — select a node to explore.
+4 more
出典
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, L., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of deep bidirectional transformers for language understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link ↗
このページの引用方法
ScholarGate. (2026, June 3). Fine-Tuned Transformer (Task-Specific Adaptation of Pre-Trained Transformer Models). ScholarGate. https://scholargate.app/ja/deep-learning/fine-tuned-transformer
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERTベースの分類深層学習↔ compare
- ファインチューニングされたBERTベースの分類深層学習↔ compare
- ファインチューニングされたリカレントニューラルネットワーク深層学習↔ compare
- RoBERTaベースの分類深層学習↔ compare