طبقهبندی مبتنی بر BERT با انطباق دامنه
طبقهبندی مبتنی بر BERT با انطباق دامنه، خط لوله تنظیم دقیق استاندارد را با ادامه پیشآموزش مدل زبان نقابدار (masked-language-model) BERT بر روی یک پیکره بزرگ از متن بدون برچسب در دامنه مورد نظر، و سپس تنظیم دقیق مدل تطبیقیافته بر روی مثالهای برچسبدار برای وظیفه طبقهبندی هدف، گسترش میدهد. این رویکرد دو مرحلهای شکاف واژگانی و توزیعی بین پیکره پیشآموزش عمومی BERT و دامنههای تخصصی مانند پزشکی زیستی، حقوق، مالی یا متن رسانههای اجتماعی را میبندد.
مطالعهٔ کامل روش
برای خواندن این بخش با حساب رایگان وارد شوید.
Method map
The neighbourhood of related methods — select a node to explore.
+4 more
منابع
- Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020), 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
- Lee, J., Yoon, W., Kim, S., Kim, D., Kim, S., So, C. H., & Kang, J. (2020). BioBERT: a pre-trained biomedical language representation model for biomedical text mining. Bioinformatics, 36(4), 1234–1240. DOI: 10.1093/bioinformatics/btz682 ↗
نحوهٔ استناد به این صفحه
ScholarGate. (2026, June 3). Domain-Adaptive Pre-training with BERT for Text Classification. ScholarGate. https://scholargate.app/fa/deep-learning/domain-adaptive-bert-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- طبقهبندی مبتنی بر بِرْتیادگیری عمیق↔ compare
- ترنسفورمر سازگار با دامنهیادگیری عمیق↔ compare
- طبقهبندی مبتنی بر BERT تنظیمشده دقیقیادگیری عمیق↔ compare
- طبقهبندی مبتنی بر RoBERTaیادگیری عمیق↔ compare
- تعبیههای جملهیادگیری عمیق↔ compare
- یادگیری انتقالی مبتنی بر طبقهبندی با BERTیادگیری عمیق↔ compare
ارجاعشده در
در این صفحه مشکلی دیدید؟ گزارش دهید یا اصلاحی پیشنهاد کنید →