स्व-पर्यवेक्षित BERT-आधारित वर्गीकरण
स्व-पर्यवेक्षित BERT-आधारित वर्गीकरण गूगल के बिडायरेक्शनल एन्कोडर रिप्रेजेंटेशन्स फ्रॉम ट्रांसफॉर्मर्स (BERT) का उपयोग करता है, जिसे मास्क्ड-लैंग्वेज मॉडलिंग के माध्यम से बड़े पैमाने पर बिना लेबल वाले टेक्स्ट पर पूर्व-प्रशिक्षित किया जाता है, और इसे टेक्स्ट को श्रेणियों में वर्गीकृत करने के लिए लेबल किए गए उदाहरणों पर फाइन-ट्यून किया जाता है। यह सीमित लेबल वाले डेटा के साथ भी भावना विश्लेषण, विषय वर्गीकरण, इरादे का पता लगाने और समान एनएलपी कार्यों पर लगातार अत्याधुनिक सटीकता प्राप्त करता है।
पूरी विधि पढ़ें
यह खंड पढ़ने के लिए निःशुल्क खाते से साइन इन करें।
पद्धति मानचित्र
सम्बन्धित पद्धतियों का परिवेश — अन्वेषण हेतु किसी नोड का चयन करें।
स्रोत
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), LNCS 11856, 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16 ↗
इस पृष्ठ का उद्धरण कैसे दें
ScholarGate. (2026, June 3). Self-supervised BERT-based Text Classification (Pretrain then Fine-tune). ScholarGate. https://scholargate.app/hi/deep-learning/self-supervised-bert-based-classification