طبقهبندی مبتنی بر RoBERTa با انطباق دامنه
طبقهبندی مبتنی بر RoBERTa با انطباق دامنه، ترنسفورمر RoBERTa را با ادامه پیشآموزش مدل زبان پوشیده (masked-language-model) بر روی یک پیکره (corpus) خاص دامنه، قبل از تنظیم دقیق (fine-tuning) برای یک وظیفه طبقهبندی، گسترش میدهد. این انطباق دو مرحلهای، شکاف بین دادههای آموزشی عمومی جمعآوری شده از وب و حوزههای تخصصی مانند متن زیستپزشکی، حقوقی یا علمی را پر میکند و به طور مداوم عملکرد بهتری نسبت به تنظیم دقیق استاندارد RoBERTa در صورت در دسترس بودن متن دامنه هدف، نشان میدهد.
مطالعهٔ کامل روش
برای خواندن این بخش با حساب رایگان وارد شوید.
Method map
The neighbourhood of related methods — select a node to explore.
منابع
- Liu, Y., Ott, M., Goyal, N., Du, J., Joshi, M., Chen, D., Levy, O., Lewis, M., Zettlemoyer, L., & Stoyanov, V. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692. link ↗
- Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of ACL 2020, pp. 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
نحوهٔ استناد به این صفحه
ScholarGate. (2026, June 3). Domain-Adaptive RoBERTa-based Text Classification. ScholarGate. https://scholargate.app/fa/deep-learning/domain-adaptive-roberta-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- طبقهبندی مبتنی بر بِرْتیادگیری عمیق↔ compare
- طبقهبندی مبتنی بر BERT با انطباق دامنهیادگیری عمیق↔ compare
- طبقهبندی مبتنی بر RoBERTa تنظیمشدهیادگیری عمیق↔ compare
- طبقهبندی مبتنی بر RoBERTa چندزبانهیادگیری عمیق↔ compare
- طبقهبندی مبتنی بر RoBERTaیادگیری عمیق↔ compare
در این صفحه مشکلی دیدید؟ گزارش دهید یا اصلاحی پیشنهاد کنید →