BERT-upotukset – kontekstisidonnaiset tekstiesitykset
BERT-pohjaiset tekstin upotukset, jotka Devlin ja kollegat Google AI:sta esittelivät vuonna 2019, muuntavat tekstin kontekstisidonnaisiksi tiheiksi vektoreiksi käyttäen kaksisuuntaista Transformer-enkooderia. Koska sanan merkitys muuttuu kontekstin mukana, BERT tuottaa rikkaampia esityksiä kuin staattiset menetelmät, kuten Word2Vec, tai aihepiirimallit, kuten LDA.
Lue koko menetelmä
Kirjaudu sisään maksuttomalla tilillä lukeaksesi tämän osion.
Method map
The neighbourhood of related methods — select a node to explore.
+21 more
Lähteet
- Devlin, J., Chang, M.-W., Lee, K. & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. NAACL-HLT, 4171-4186. DOI: 10.18653/v1/N19-1423 ↗
- Tenney, I., Das, D. & Pavlick, E. (2019). BERT Rediscovers the Classical NLP Pipeline. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics (ACL), 4593-4601. DOI: 10.18653/v1/P19-1452 ↗
Näin viittaat tähän sivuun
ScholarGate. (2026, June 1). BERT-Based Text Embeddings. ScholarGate. https://scholargate.app/fi/text-mining/bert-embeddings
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Doc2Vec – dokumenttien upotuksetTekstinlouhinta↔ compare
- GloVe-upotuksetTekstinlouhinta↔ compare
- Sentiment AnalysisTekstinlouhinta↔ compare
- Word2VecTekstinlouhinta↔ compare
Tähän viittaavat
Huomasitko virheen tällä sivulla? Ilmoita siitä tai ehdota korjausta →