डोमेन-अनुकूलित बर्ट-आधारित वर्गीकरण
डोमेन-अनुकूलित बर्ट-आधारित वर्गीकरण मानक फाइन-ट्यूनिंग पाइपलाइन का विस्तार करता है, जिसमें पहले डोमेन-विशिष्ट लेबल-रहित पाठ के एक बड़े कॉर्पस पर बर्ट के मास्क्ड-लैंग्वेज-मॉडल प्री-ट्रेनिंग को जारी रखा जाता है, फिर लक्षित वर्गीकरण कार्य के लिए लेबल किए गए उदाहरणों पर अनुकूलित मॉडल को फाइन-ट्यून किया जाता है। यह दो-चरणीय दृष्टिकोण बर्ट की सामान्य प्री-ट्रेनिंग कॉर्पस और बायोमेडिसिन, कानून, वित्त, या सोशल-मीडिया पाठ जैसे विशिष्ट डोमेन के बीच शब्दावली और वितरण संबंधी अंतर को बंद करता है।
पूरी विधि पढ़ें
यह खंड पढ़ने के लिए निःशुल्क खाते से साइन इन करें।
Method map
The neighbourhood of related methods — select a node to explore.
+4 more
स्रोत
- Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020), 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
- Lee, J., Yoon, W., Kim, S., Kim, D., Kim, S., So, C. H., & Kang, J. (2020). BioBERT: a pre-trained biomedical language representation model for biomedical text mining. Bioinformatics, 36(4), 1234–1240. DOI: 10.1093/bioinformatics/btz682 ↗
इस पृष्ठ का उद्धरण कैसे दें
ScholarGate. (2026, June 3). Domain-Adaptive Pre-training with BERT for Text Classification. ScholarGate. https://scholargate.app/hi/deep-learning/domain-adaptive-bert-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- BERT-आधारित वर्गीकरणगहन अधिगम↔ compare
- डोमेन-अनुकूली ट्रांसफार्मरगहन अधिगम↔ compare
- फाइन-ट्यून्ड BERT-आधारित वर्गीकरणगहन अधिगम↔ compare
- RoBERTa-आधारित वर्गीकरणगहन अधिगम↔ compare
- वाक्य एम्बेडिंगगहन अधिगम↔ compare
- BERT-आधारित वर्गीकरण के साथ ट्रांसफर लर्निंगगहन अधिगम↔ compare