T5 (Text-to-Text Transfer Transformer)

T5 ir vienots sekvence-līdz-sekvencei dziļās apmācības (deep learning) ietvars, ko 2020. gadā Google Brain ieviesa Raffel et al. un publicēja žurnālā Journal of Machine Learning Research (Vol. 21, No. 140). Tas pārveido katru dabisko valodu apstrādes (NLP) uzdevumu — klasifikāciju, tulkošanu, kopsavilkumu veidošanu, jautājumu atbildēšanu un citus — par teksta-līdz-tekstam problēmu: gan ievade, gan izvade vienmēr ir rakstzīmju virknes, kas ļauj vienu enkoder-dekoder Transformer modeli iepriekš apmācīt vienreiz un pēc tam pielāgot dažādiem uzdevumiem ar vienotu saskarni. T5 ieviesa span-corruption (spraugu sabojāšanas) iepriekšēju apmācību un C4 korpusu, un tā lielākais variants (11 miljardi parametru) publicēšanas brīdī sasniedza visaugstākos rezultātus plašā NLP etalonu klāstā.