Machine learning

T5(Text-to-Text Transfer Transformer)

T5は、2020年にGoogle BrainのRaffelらによって導入され、Journal of Machine Learning Research(Vol. 21, No. 140)に掲載された、統一的なシーケンス・ツー・シーケンス深層学習フレームワークである。これは、分類、翻訳、要約、質問応答など、あらゆる自然言語処理(NLP)タスクをテキスト・ツー・テキストの問題として再定式化する。入力と出力は常に文字列表であり、単一のエンコーダー・デコーダーTransformerを一度事前学習し、一貫したインターフェースでタスク全体にファインチューニングすることを可能にする。T5は、スパン破損(span-corruption)事前学習とC4コーパスを導入し、その最大のバリアント(110億パラメータ)は、発表当時、広範なNLPベンチマークで最先端の結果を達成した。

MethodMindで開く近日公開動画近日公開Download slides

手法の全文を読む

会員限定

無料アカウントでログインすると、このセクションを読めます。

ログイン

Method map

The neighbourhood of related methods — select a node to explore.

T5(Text-to-Text Transfer Transformer)
アテンションメカニズム転移学習

出典

  1. Raffel, C., Shazeer, N., Roberts, A., Lee, K., Narang, S., Matena, M., Zhou, Y., Li, W., & Liu, P. J. (2020). Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. Journal of Machine Learning Research, 21(140), 1–67. link
  2. Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is All You Need. Advances in Neural Information Processing Systems, 30. link
  3. Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link

このページの引用方法

ScholarGate. (2026, June 3). T5: Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. ScholarGate. https://scholargate.app/ja/deep-learning/t5

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side
ScholarGateT5 (Text-to-Text Transfer Transformer) (T5: Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer). 2026-06-15に以下より取得 https://scholargate.app/ja/deep-learning/t5 · データセット: https://doi.org/10.5281/zenodo.20539026