T5 (Text-to-Text Transfer Transformer)
T5 on ühtne jada-jada süvaõppe raamistik, mille Google Braini teadlased Raffel jt tutvustasid 2020. aastal ja avaldasid ajakirjas Journal of Machine Learning Research (Vol. 21, No. 140). See taandab iga NLP-ülesande – klassifitseerimise, tõlkimise, kokkuvõtte tegemise, küsimustele vastamise ja muu – tekstist-tekstiks probleemiks: nii sisend kui ka väljund on alati tähemärkjärjestikud, mis võimaldab ühe kodeerija-dekoodri Transformer-mudeli ükskord eelkoolitada ja seejärel ühtse liidesega erinevatele ülesannetele kohandada. T5 tutvustas span-korruptsiooni eelkoolitust ja C4-korpust ning selle suurim variant (11 miljardit parameetrit) saavutas avaldamise ajal tipptasemel tulemusi laias valikus NLP-testides.
Loe meetodi täielikku kirjeldust
Selle osa lugemiseks logi sisse tasuta kontoga.
Method map
The neighbourhood of related methods — select a node to explore.
Allikad
- Raffel, C., Shazeer, N., Roberts, A., Lee, K., Narang, S., Matena, M., Zhou, Y., Li, W., & Liu, P. J. (2020). Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. Journal of Machine Learning Research, 21(140), 1–67. link ↗
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is All You Need. Advances in Neural Information Processing Systems, 30. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link ↗
Kuidas sellele lehele viidata
ScholarGate. (2026, June 3). T5: Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. ScholarGate. https://scholargate.app/et/deep-learning/t5
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Tähelepanu mehhanismSüvaõpe↔ compare
- ÜlekandeõpeMasinõpe↔ compare
Märkasid sellel lehel viga? Teata sellest või paku parandust →