Clasificare bazată pe BERT cu auto-supervizare

Clasificarea bazată pe BERT cu auto-supervizare utilizează Bidirectional Encoder Representations from Transformers (BERT) de la Google, pre-antrenat pe un volum masiv de text neetichetat prin modelarea limbajului mascat (masked-language modelling), și apoi adaptat (fine-tuned) pe exemple etichetate pentru a atribui textul unor categorii. Acesta obține în mod constant o acuratețe de ultimă generație (state-of-the-art) în analiza sentimentelor, clasificarea topicurilor, detectarea intențiilor și sarcini similare de procesare a limbajului natural (NLP), chiar și cu date etichetate limitate.