Machine learningDeep learning / NLP / CV
סיווג מבוסס BERT בלמידה עצמית
סיווג מבוסס BERT בלמידה עצמית משתמש ב-Bidirectional Encoder Representations from Transformers (BERT) של גוגל, שאומן מראש על טקסטים עצומים ללא תיוג באמצעות מידול שפה ממוסך (masked-language modelling), ועובר כוונון עדין (fine-tuning) על דוגמאות מתויגות לצורך סיווג טקסט לקטגוריות. הוא משיג באופן עקבי דיוק מתקדם (state-of-the-art) בניתוח סנטימנט, סיווג נושאים, זיהוי כוונות ומשימות דומות בעיבוד שפה טבעית (NLP), גם עם נתונים מתויגים מוגבלים.
קראו את השיטה במלואה
לחברים בלבד
התחברותהתחברו עם חשבון חינמי כדי לקרוא חלק זה.
Method map
The neighbourhood of related methods — select a node to explore.
מקורות
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), LNCS 11856, 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16 ↗
איך לצטט עמוד זה
ScholarGate. (2026, June 3). Self-supervised BERT-based Text Classification (Pretrain then Fine-tune). ScholarGate. https://scholargate.app/he/deep-learning/self-supervised-bert-based-classification