T5 (Text-to-Text Transfer Transformer)
T5 on yhtenäinen sekvenssi-sekvenssiksi -syväoppimiskehys, jonka Google Brainin Raffel et al. esittelivät vuonna 2020 ja julkaisivat Journal of Machine Learning Research -lehdessä (Vol. 21, No. 140). Se uudelleenmuotoilee jokaisen luonnollisen kielen käsittelyn (NLP) tehtävän – luokittelun, kääntämisen, tiivistämisen, kysymys-vastaus-tehtävät ja monet muut – tekstistä tekstiksi -ongelmaksi: sekä syöte että tuloste ovat aina merkkijonoja, mikä mahdollistaa yhden enkooderi-dekooderi Transformerin esikouluttamisen kerran ja hienosäätämisen eri tehtäviin yhtenäisellä rajapinnalla. T5 esitteli span-korruptioesikoulutuksen ja C4-korpuksen, ja sen suurin variantti (11 miljardia parametria) saavutti julkaisuhetkellään huipputuloksia laajalla joukolla NLP-vertailuaineistoja.
Lue koko menetelmä
Kirjaudu sisään maksuttomalla tilillä lukeaksesi tämän osion.
Method map
The neighbourhood of related methods — select a node to explore.
Lähteet
- Raffel, C., Shazeer, N., Roberts, A., Lee, K., Narang, S., Matena, M., Zhou, Y., Li, W., & Liu, P. J. (2020). Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. Journal of Machine Learning Research, 21(140), 1–67. link ↗
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is All You Need. Advances in Neural Information Processing Systems, 30. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link ↗
Näin viittaat tähän sivuun
ScholarGate. (2026, June 3). T5: Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. ScholarGate. https://scholargate.app/fi/deep-learning/t5
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- HuomiomekanismiSyväoppiminen↔ compare
- Siirto-oppiminenKoneoppiminen↔ compare
Huomasitko virheen tällä sivulla? Ilmoita siitä tai ehdota korjausta →