T5 (Text-to-Text Transfer Transformer)
A T5 egy egységes, szekvencia-szekvenciává alakító mélytanulási keretrendszer, amelyet Raffel et al. a Google Brainnél vezettek be 2020-ban, és a Journal of Machine Learning Research (21. kötet, 140. szám) publikált. Minden természetes nyelvi feldolgozási (NLP) feladatot – osztályozás, fordítás, összefoglalás, kérdés-válasz, és sok más – szöveg-szöveggé alakító problémaként fogalmaz át: mind a bemenet, mind a kimenet mindig karakterlánc, ami lehetővé teszi egyetlen kódoló-dekódoló Transformer előzetes betanítását, majd feladatonkénti finomhangolását egységes interfészen keresztül. A T5 bevezette a „span-corruption” (szegmens-korrupció) előzetes betanítást és a C4 korpuszt, legnagyobb variánsa (11 milliárd paraméter) pedig a publikálás idején a legfejlettebb eredményeket érte el számos NLP benchmarkon.
A teljes módszer elolvasása
Jelentkezzen be ingyenes fiókkal a szakasz elolvasásához.
Method map
The neighbourhood of related methods — select a node to explore.
Források
- Raffel, C., Shazeer, N., Roberts, A., Lee, K., Narang, S., Matena, M., Zhou, Y., Li, W., & Liu, P. J. (2020). Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. Journal of Machine Learning Research, 21(140), 1–67. link ↗
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is All You Need. Advances in Neural Information Processing Systems, 30. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link ↗
Hogyan hivatkozzon erre az oldalra
ScholarGate. (2026, June 3). T5: Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. ScholarGate. https://scholargate.app/hu/deep-learning/t5
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Attention MechanismMélytanulás↔ compare
- Transzfer tanulásGépi tanulás↔ compare
Hibát talált ezen az oldalon? Jelentse, vagy javasoljon javítást →