Machine learningDeep learning / NLP / CV

Önfelügyelt BERT-alapú osztályozás

Az önfelügyelt BERT-alapú osztályozás a Google Bidirectional Encoder Representations from Transformers (BERT) modelljét használja, amelyet hatalmas mennyiségű címkézetlen szövegen tanítottak be maszkolt nyelvmodellezés segítségével, majd címkézett példákon finomhangolnak a szövegek kategóriákba sorolásához. Ez a módszer következetesen csúcsteljesítményű pontosságot ér el a hangulatelemzés, témakör-osztályozás, szándékfelismerés és hasonló természetesnyelv-feldolgozási (NLP) feladatokban, még korlátozott mennyiségű címkézett adattal is.

Megnyitás itt: MethodMindHamarosanVideóHamarosanDownload slides

A teljes módszer elolvasása

Csak tagoknak

Jelentkezzen be ingyenes fiókkal a szakasz elolvasásához.

Bejelentkezés

Method map

The neighbourhood of related methods — select a node to explore.

Források

  1. Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. In Proceedings of NAACL-HLT 2019, 4171–4186. Association for Computational Linguistics. DOI: 10.18653/v1/N19-1423
  2. Sun, C., Qiu, X., Xu, Y., & Huang, X. (2019). How to Fine-Tune BERT for Text Classification? In China National Conference on Chinese Computational Linguistics (CCL 2019), LNCS 11856, 194–206. Springer. DOI: 10.1007/978-3-030-32381-3_16

Hogyan hivatkozzon erre az oldalra

ScholarGate. (2026, June 3). Self-supervised BERT-based Text Classification (Pretrain then Fine-tune). ScholarGate. https://scholargate.app/hu/deep-learning/self-supervised-bert-based-classification

Hivatkozik rá

ScholarGateSelf-supervised BERT-based classification (Self-supervised BERT-based Text Classification (Pretrain then Fine-tune)). Letöltve 2026-06-15, forrás: https://scholargate.app/hu/deep-learning/self-supervised-bert-based-classification · Adatkészlet: https://doi.org/10.5281/zenodo.20539026