Machine learningDeep learning / NLP / CV
स्व-पर्यवेक्षित RoBERTa-आधारित वर्गीकरण
स्व-पर्यवेक्षित RoBERTa-आधारित वर्गीकरण, बड़े अलेबल कॉर्पोरा से मास्क्ड-लैंग्वेज मॉडलिंग के माध्यम से सीखे गए RoBERTa ट्रांसफार्मर के शक्तिशाली भाषा अभ्यावेदन को, स्व-पर्यवेक्षित उद्देश्यों के साथ जोड़ता है ताकि बहुत कम या बिना किसी मानव-लेबल वाले डेटा के टेक्स्ट वर्गीकरण किया जा सके। यह दृष्टिकोण अपने स्वयं के प्रशिक्षण संकेत उत्पन्न करने के लिए प्रचुर मात्रा में अलेबल टेक्स्ट का लाभ उठाता है, इससे पहले कि इसे डाउनस्ट्रीम वर्गीकरण कार्य पर फाइन-ट्यून किया जाए।
पूरी विधि पढ़ें
केवल सदस्यों के लिए
साइन इन करेंयह खंड पढ़ने के लिए निःशुल्क खाते से साइन इन करें।
स्रोत
- Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
इस पृष्ठ का उद्धरण कैसे दें
ScholarGate. (2026, June 3). Self-supervised RoBERTa-based Text Classification. ScholarGate. https://scholargate.app/hi/deep-learning/self-supervised-roberta-based-classification