Domain-adaptive BERT-based Classification
Domain-adaptive BERT-based classification extends the standard fine-tuning pipeline by first continuing BERT's masked-language-model pre-training on a large corpus of in-domain unlabeled text, then fine-tuning the adapted model on labeled examples for the target classification task. This two-stage approach closes the vocabulary and distributional gap between BERT's general pre-training corpus and specialized domains such as biomedicine, law, finance, or social-media text.
سجل المصدر
تم نسخ الاستشهادات حرفيًا من سجل مصدر المنهج. لا يُستدل على أي تحقق على مستوى الادعاء منها.
- Gururangan, S., Marasovic, A., Swayamdipta, S., Lo, K., Beltagy, I., Downey, D., & Smith, N. A. (2020). Don't Stop Pretraining: Adapt Language Models to Domains and Tasks. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL 2020), 8342–8360. · DOI 10.18653/v1/2020.acl-main.740
- Lee, J., Yoon, W., Kim, S., Kim, D., Kim, S., So, C. H., & Kang, J. (2020). BioBERT: a pre-trained biomedical language representation model for biomedical text mining. Bioinformatics, 36(4), 1234–1240. · DOI 10.1093/bioinformatics/btz682
الادعاءات المنسقة
تم حفظ الادعاءات في دفتر الأستاذ الخاص بالأدلة، ولكل منها تقييمها الخاص.
هذه الواجهة لا تخترع تقييمًا للادعاء عندما لا يكون دفتر الأستاذ يحتوي على واحد.
المنهجيات ذات الصلة
تم إنشاؤها من الرسم البياني للمنهج وتظهر كعلاقات مقترحة آليًا - لا يُستدل على أي ادعاء دليل.