T5 (टेक्स्ट-टू-टेक्स्ट ट्रांसफर ट्रांसफॉर्मर)
T5 एक एकीकृत सीक्वेंस-टू-सीक्वेंस डीप लर्निंग फ्रेमवर्क है जिसे 2020 में Google Brain में Raffel et al. द्वारा प्रस्तुत किया गया था, और यह जर्नल ऑफ मशीन लर्निंग रिसर्च (खंड 21, संख्या 140) में प्रकाशित हुआ था। यह प्रत्येक NLP कार्य — वर्गीकरण, अनुवाद, संक्षेपण, प्रश्नोत्तर, और अन्य — को एक टेक्स्ट-टू-टेक्स्ट समस्या के रूप में पुनः संरचित करता है: इनपुट और आउटपुट दोनों हमेशा कैरेक्टर स्ट्रिंग होते हैं, जिससे एक एकल एन्कोडर-डिकोडर ट्रांसफॉर्मर को एक बार प्री-ट्रेन किया जा सकता है और एक सुसंगत इंटरफ़ेस के साथ विभिन्न कार्यों में फाइन-ट्यून किया जा सकता है। T5 ने स्पैन-करप्शन प्री-ट्रेनिंग और C4 कॉर्पस की शुरुआत की, और इसके सबसे बड़े वेरिएंट (11B पैरामीटर) ने प्रकाशन के समय NLP बेंचमार्क की एक विस्तृत श्रृंखला में अत्याधुनिक परिणाम प्राप्त किए।
पूरी विधि पढ़ें
यह खंड पढ़ने के लिए निःशुल्क खाते से साइन इन करें।
Method map
The neighbourhood of related methods — select a node to explore.
स्रोत
- Raffel, C., Shazeer, N., Roberts, A., Lee, K., Narang, S., Matena, M., Zhou, Y., Li, W., & Liu, P. J. (2020). Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. Journal of Machine Learning Research, 21(140), 1–67. link ↗
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is All You Need. Advances in Neural Information Processing Systems, 30. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link ↗
इस पृष्ठ का उद्धरण कैसे दें
ScholarGate. (2026, June 3). T5: Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. ScholarGate. https://scholargate.app/hi/deep-learning/t5
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- अटेंशन मैकेनिज्म (Attention Mechanism)गहन अधिगम↔ compare
- ट्रांसफर लर्निंगमशीन अधिगम↔ compare