Αυτο-επιβλεπόμενη ταξινόμηση βασισμένη σε BERT
Η αυτο-επιβλεπόμενη ταξινόμηση βασισμένη σε BERT χρησιμοποιεί τις αμφίδρομες αναπαραστάσεις κωδικοποιητή από Transformers (BERT) της Google, οι οποίες έχουν προεκπαιδευτεί σε τεράστιο μη επισημασμένο κείμενο μέσω μοντελοποίησης μάσκας γλώσσας, και τις τελειοποιεί (fine-tunes) σε επισημασμένα παραδείγματα για να κατηγοριοποιήσει κείμενο. Επιτυγχάνει σταθερά κορυφαία ακρίβεια στην ανάλυση συναισθήματος, την ταξινόμηση θεμάτων, την ανίχνευση πρόθεσης και παρόμοιες εργασίες NLP, ακόμη και με περιορισμένα επισημασμένα δεδομένα.
Διαβάστε ολόκληρη τη μέθοδο
Συνδεθείτε με δωρεάν λογαριασμό για να διαβάσετε αυτή την ενότητα.
Method map
The neighbourhood of related methods — select a node to explore.
Πηγές
- Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423 ↗
- Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), LNCS 11856, 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16 ↗
Πώς να παραπέμψετε σε αυτή τη σελίδα
ScholarGate. (2026, June 3). Self-supervised BERT-based Text Classification (Pretrain then Fine-tune). ScholarGate. https://scholargate.app/el/deep-learning/self-supervised-bert-based-classification
Αναφέρεται από
Εντοπίσατε πρόβλημα σε αυτή τη σελίδα; Αναφέρετέ το ή προτείνετε διόρθωση →