RoBERTa-आधारित वर्गीकरण
RoBERTa-आधारित वर्गीकरण RoBERTa पूर्व-प्रशिक्षित ट्रांसफार्मर का उपयोग करता है — जिसे BERT की तुलना में गतिशील मास्किंग और बड़े बैचों के साथ अधिक मजबूती से प्रशिक्षित किया गया है — पाठ वर्गीकरण कार्यों के लिए [CLS] टोकन प्रतिनिधित्व के शीर्ष पर एक हल्का वर्गीकरण हेड जोड़कर और लेबल किए गए उदाहरणों पर पूरे मॉडल को फाइन-ट्यून करके। यह मानक NLP बेंचमार्क पर BERT के बराबर या उससे बेहतर प्रदर्शन करता है।
पूरी विधि पढ़ें
यह खंड पढ़ने के लिए निःशुल्क खाते से साइन इन करें।
Method map
The neighbourhood of related methods — select a node to explore.
+24 more
स्रोत
- Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019 (pp. 4171–4186). Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
इस पृष्ठ का उद्धरण कैसे दें
ScholarGate. (2026, June 3). RoBERTa-based Text Classification (Robustly Optimized BERT Pretraining Approach). ScholarGate. https://scholargate.app/hi/deep-learning/roberta-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-आधारित वर्गीकरणगहन अधिगम↔ compare
- फाइन-ट्यून्ड रोबर्टा-आधारित वर्गीकरणगहन अधिगम↔ compare
- गेटेड रिकरेंट यूनिट (GRU)गहन अधिगम↔ compare
- लॉन्ग शॉर्ट-टर्म मेमोरी (LSTM)गहन अधिगम↔ compare
- वाक्य एम्बेडिंगगहन अधिगम↔ compare