Machine learning
GPTファインチューニング
GPTファインチューニングは、GPT-2/3/4やLLaMAといった事前学習済みの自己回帰型言語モデルを、OpenAIの2019年のRadfordらの論文で導入されたように、ドメイン固有のデータや、人間のフィードバックからの強化学習(RLHF)またはDPOによる指示追従のために適応させる手法です。これは、指示追従、ドメイン適応、および生成タスクに使用されます。
手法の全文を読む
会員限定
ログイン無料アカウントでログインすると、このセクションを読めます。
Method map
The neighbourhood of related methods — select a node to explore.
出典
- Radford, A., Wu, J., Child, R., Luan, D., Amodei, D. & Sutskever, I. (2019). Language Models are Unsupervised Multitask Learners. OpenAI Technical Report. link ↗
- Ouyang, L. et al. (2022). Training Language Models to Follow Instructions with Human Feedback. NeurIPS. DOI: 10.48550/arXiv.2203.02155 ↗
このページの引用方法
ScholarGate. (2026, June 1). GPT Fine-Tuning and Instruction Adaptation. ScholarGate. https://scholargate.app/ja/deep-learning/gpt-finetuning
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- LoRAとPEFT深層学習↔ compare
- ランダムフォレスト機械学習↔ compare
- Variational Autoencoder深層学習↔ compare
- ビジョントランスフォーマー深層学習↔ compare
- XGBoost機械学習↔ compare