T5 (Text-to-Text Transfer Transformer)
T5 е унифицирана дълбокообучаваща рамка от тип последователност-към-последователност, представена от Рафел и съавтори в Google Brain през 2020 г., публикувана в Journal of Machine Learning Research (том 21, брой 140). Тя преформулира всяка задача от обработката на естествен език — класификация, превод, обобщаване, отговаряне на въпроси и други — като проблем от тип текст-към-текст: както входът, така и изходът винаги са текстови низове, което позволява един енкодер-декодер Трансформър да бъде предварително обучен веднъж и фино настроен за различни задачи с единен интерфейс. T5 въвежда предварително обучение чрез „span-corruption“ (повреждане на участъци) и корпуса C4, а най-големият му вариант (с 11 милиарда параметъра) постига най-съвременни резултати в широк спектър от бенчмаркове за обработка на естествен език към момента на публикуване.
Прочетете целия метод
Влезте с безплатен профил, за да прочетете този раздел.
Method map
The neighbourhood of related methods — select a node to explore.
Източници
- Raffel, C., Shazeer, N., Roberts, A., Lee, K., Narang, S., Matena, M., Zhou, Y., Li, W., & Liu, P. J. (2020). Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. Journal of Machine Learning Research, 21(140), 1–67. link ↗
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is All You Need. Advances in Neural Information Processing Systems, 30. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link ↗
Как да цитирате тази страница
ScholarGate. (2026, June 3). T5: Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. ScholarGate. https://scholargate.app/bg/deep-learning/t5
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Механизъм на вниманиетоДълбоко обучение↔ compare
- Трансферно обучениеМашинно обучение↔ compare
Забелязахте ли проблем на тази страница? Съобщете или предложете поправка →