T5 (محول النقل النصي إلى نص)
T5 هو إطار عمل موحد للتعلم العميق من تسلسل إلى تسلسل تم تقديمه بواسطة Raffel وآخرون في Google Brain في عام 2020، ونُشر في مجلة تعلم الآلة (المجلد 21، العدد 140). يعيد صياغة كل مهمة من مهام معالجة اللغة الطبيعية - التصنيف، الترجمة، التلخيص، الإجابة على الأسئلة، والمزيد - كمشكلة نص إلى نص: المدخلات والمخرجات دائمًا سلاسل أحرف، مما يتيح تدريب محول واحد من نوع المشفر-المفكك مرة واحدة وضبطه عبر المهام بواجهة متسقة. قدم T5 التدريب المسبق لفساد الامتداد (span-corruption) ومجموعة بيانات C4، وأكبر متغيراته (11 مليار معلمة) حقق نتائج متطورة عبر مجموعة واسعة من معايير معالجة اللغة الطبيعية في وقت النشر.
اقرأ الطريقة كاملة
سجّل الدخول بحساب مجاني لقراءة هذا القسم.
Method map
The neighbourhood of related methods — select a node to explore.
المصادر
- Raffel, C., Shazeer, N., Roberts, A., Lee, K., Narang, S., Matena, M., Zhou, Y., Li, W., & Liu, P. J. (2020). Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. Journal of Machine Learning Research, 21(140), 1–67. link ↗
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is All You Need. Advances in Neural Information Processing Systems, 30. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of NAACL-HLT 2019, 4171–4186. link ↗
كيف تستشهد بهذه الصفحة
ScholarGate. (2026, June 3). T5: Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer. ScholarGate. https://scholargate.app/ar/deep-learning/t5
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- آلية الانتباهالتعلم العميق↔ compare
- التعلم التحويليتعلم الآلة↔ compare