تصنيف BERT التكيفي مع المجال
يوسع تصنيف BERT التكيفي مع المجال (Domain-adaptive BERT-based classification) مسار الضبط الدقيق القياسي عن طريق الاستمرار أولاً في التدريب المسبق لنموذج اللغة المقنّع (masked-language-model) الخاص بـ BERT على مجموعة كبيرة من النصوص غير المصنفة داخل المجال، ثم الضبط الدقيق للنموذج المكيف على أمثلة مصنفة لمهمة التصنيف المستهدفة. يسد هذا النهج المكون من مرحلتين الفجوة المعجمية والتوزيعية بين مجموعة التدريب المسبق العامة لـ BERT والمجالات المتخصصة مثل الطب الحيوي أو القانون أو التمويل أو نصوص وسائل التواصل الاجتماعي.
اقرأ الطريقة كاملة
سجّل الدخول بحساب مجاني لقراءة هذا القسم.
Method map
The neighbourhood of related methods — select a node to explore.
+4 more
المصادر
- Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020), 8342–8360. DOI: 10.18653/v1/2020.acl-main.740 ↗
- Lee, J., Yoon, W., Kim, S., Kim, D., Kim, S., So, C. H., & Kang, J. (2020). BioBERT: a pre-trained biomedical language representation model for biomedical text mining. Bioinformatics, 36(4), 1234–1240. DOI: 10.1093/bioinformatics/btz682 ↗
كيف تستشهد بهذه الصفحة
ScholarGate. (2026, June 3). Domain-Adaptive Pre-training with BERT for Text Classification. ScholarGate. https://scholargate.app/ar/deep-learning/domain-adaptive-bert-based-classification
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- تصنيف قائم على BERTالتعلم العميق↔ compare
- المحول التكيفي للنطاقالتعلم العميق↔ compare
- تصنيف مُحسَّن استنادًا إلى BERTالتعلم العميق↔ compare
- تصنيف قائم على RoBERTaالتعلم العميق↔ compare
- تضمينات الجملالتعلم العميق↔ compare
- تعلم النقل بالتصنيف المعتمد على BERTالتعلم العميق↔ compare