T5 (Text-to-Text Transfer Transformer)
T5 ialah rangka kerja pembelajaran mendalam (deep learning) jujukan-ke-jujukan (sequence-to-sequence) yang disatukan, diperkenalkan oleh Raffel et al. di Google Brain pada tahun 2020, diterbitkan dalam Journal of Machine Learning Research (Jilid 21, No. 140). Ia membingkai semula setiap tugasan NLP — klasifikasi, penterjemahan, peringkasan, menjawab soalan, dan banyak lagi — sebagai masalah teks-ke-teks: kedua-dua input dan output sentiasa rentetan aksara, membolehkan satu Transformer pengekod-dekoder (encoder-decoder) dilatih awal (pre-trained) sekali dan dilaraskan (fine-tuned) merentasi pelbagai tugasan dengan antara muka yang konsisten. T5 memperkenalkan prapelatihan sisipan-rosot (span-corruption pre-training) dan korpus C4, dan varian terbesarnya (11B parameter) mencapai hasil termaju (state-of-the-art) merentasi pelbagai penanda aras NLP pada masa penerbitan.
Baca kaedah sepenuhnya
Log masuk dengan akaun percuma untuk membaca bahagian ini.
Method map
The neighbourhood of related methods — select a node to explore.
Sumber
- Raffel, C., Shazeer, N., Roberts, A., Lee, K., Narang, S., Matena, M., Zhou, Y., Li, W., & Liu, P. J. (2020). Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. Journal of Machine Learning Research, 21(140), 1–67. link ↗
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is All You Need. Advances in Neural Information Processing Systems, 30. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link ↗
Cara memetik halaman ini
ScholarGate. (2026, June 3). T5: Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. ScholarGate. https://scholargate.app/ms/deep-learning/t5
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Mekanisme PerhatianPembelajaran Mendalam↔ compare
- Pembelajaran PindahanPembelajaran Mesin↔ compare
Terjumpa masalah pada halaman ini? Laporkan atau cadangkan pembetulan →