T5 (Text-to-Text Transfer Transformer)
T5 është një kornizë e unifikuar thellësisht e mësuar, nga sekuenca në sekuencë, e prezantuar nga Raffel et al. në Google Brain në vitin 2020, e botuar në Journal of Machine Learning Research (Vëll. 21, Nr. 140). Ajo риframëson çdo detyrë të PNL-së — klasifikim, përkthim, përmbledhje, përgjigje pyetjesh dhe më shumë — si një problem tekst-në-tekst: si hyrja ashtu edhe dalja janë gjithmonë vargje karakteresh, duke mundësuar që një transformator i vetëm me kodues-dekodues të parapërgatitet një herë dhe të imët-përsoset nëpër detyra me një ndërfaqe konsistente. T5 prezantoi parapërgatitjen me korrupsion hapësirash dhe korpusin C4, dhe varianti i tij më i madh (11 miliardë parametra) arriti rezultate më të mira se gjendja aktuale në një gamë të gjerë benchmarkesh të PNL-së në kohën e publikimit.
Lexoni metodën e plotë
Hyni me një llogari falas për ta lexuar këtë seksion.
Method map
The neighbourhood of related methods — select a node to explore.
Burimet
- Raffel, C., Shazeer, N., Roberts, A., Lee, K., Narang, S., Matena, M., Zhou, Y., Li, W., & Liu, P. J. (2020). Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. Journal of Machine Learning Research, 21(140), 1–67. link ↗
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is All You Need. Advances in Neural Information Processing Systems, 30. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link ↗
Si ta citoni këtë faqe
ScholarGate. (2026, June 3). T5: Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. ScholarGate. https://scholargate.app/sq/deep-learning/t5
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Mekanizmi i vëmendjesMësimi i thellë↔ compare
- Mësimi i TransferueshëmMësimi i makinës↔ compare
Vutë re një problem në këtë faqe? Raportojeni ose sugjeroni një korrigjim →