Machine learningDeep learning / NLP / CV

طبقه‌بندی مبتنی بر BERT خودنظارتی

طبقه‌بندی مبتنی بر BERT خودنظارتی از مدل رمزگذار دوطرفه نمایش‌های ترانسفورمر (BERT) گوگل استفاده می‌کند که بر روی حجم عظیمی از متن بدون برچسب از طریق مدل‌سازی زبان ماسک‌شده پیش‌آموزش دیده است و سپس برای تخصیص متن به دسته‌ها، آن را بر روی مثال‌های برچسب‌دار تنظیم دقیق (fine-tune) می‌کند. این روش حتی با داده‌های برچسب‌دار محدود، به طور مداوم دقت پیشرفته‌ای را در تحلیل احساسات، طبقه‌بندی موضوع، تشخیص قصد و وظایف مشابه پردازش زبان طبیعی (NLP) به دست می‌آورد.

باز کردن در MethodMindبه‌زودیویدیوبه‌زودیDownload slides

مطالعهٔ کامل روش

ویژهٔ اعضا

برای خواندن این بخش با حساب رایگان وارد شوید.

ورود

Method map

The neighbourhood of related methods — select a node to explore.

منابع

  1. Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423
  2. Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), LNCS 11856, 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16

نحوهٔ استناد به این صفحه

ScholarGate. (2026, June 3). Self-supervised BERT-based Text Classification (Pretrain then Fine-tune). ScholarGate. https://scholargate.app/fa/deep-learning/self-supervised-bert-based-classification

ارجاع‌شده در

ScholarGateSelf-supervised BERT-based classification (Self-supervised BERT-based Text Classification (Pretrain then Fine-tune)). بازیابی‌شده در 2026-06-15 از https://scholargate.app/fa/deep-learning/self-supervised-bert-based-classification · مجموعه‌داده: https://doi.org/10.5281/zenodo.20539026