T5 (Text-to-Text Transfer Transformer)
T5 is a unified sequence-to-sequence deep learning framework introduced by Raffel et al. at Google Brain in 2020, published in the Journal of Machine Learning Research (Vol. 21, No. 140). It reframes every NLP task — classification, translation, summarisation, question answering, and more — as a text-to-text problem: both input and output are always character strings, enabling a single encoder-decoder Transformer to be pre-trained once and fine-tuned across tasks with a consistent interface. T5 introduced span-corruption pre-training and the C4 corpus, and its largest variant (11B parameters) achieved state-of-the-art results across a wide range of NLP benchmarks at the time of publication.
出典記録
引用は手法の出典記録からそのままコピーされています。それらからレベルごとの検証は推論されません。
- Raffel, C., Shazeer, N., Roberts, A., Lee, K., Narang, S., Matena, M., Zhou, Y., Li, W., & Liu, P. J. (2020). Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. Journal of Machine Learning Research, 21(140), 1–67. · URL
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is All You Need. Advances in Neural Information Processing Systems, 30. · URL
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, 4171–4186. · URL
キュレーションされた主張
主張は証拠台帳に永続化され、それぞれが独自の評価を持っています。
このビューは、台帳に主張評価がない場合、主張評価を生成しません。
関連手法
手法グラフから生成され、機械が提案した関係として表示されます — 証拠主張は推論されません。