BERT-inbäddningar — Kontextuella textrepresentationer
BERT-baserade textinbäddningar, introducerade av Devlin och kollegor vid Google AI 2019, omvandlar text till kontextkänsliga täta vektorer med hjälp av en bidirektionell Transformer-enkoder. Eftersom ett ords betydelse skiftar med dess kontext, producerar BERT rikare representationer än statiska metoder som Word2Vec eller ämnesmodeller som LDA.
Läs hela metoden
Logga in med ett kostnadsfritt konto för att läsa avsnittet.
Method map
The neighbourhood of related methods — select a node to explore.
+21 more
Källor
- Devlin, J., Chang, M.-W., Lee, K. & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. NAACL-HLT, 4171-4186. DOI: 10.18653/v1/N19-1423 ↗
- Tenney, I., Das, D. & Pavlick, E. (2019). BERT Rediscovers the Classical NLP Pipeline. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics (ACL), 4593-4601. DOI: 10.18653/v1/P19-1452 ↗
Så citerar du den här sidan
ScholarGate. (2026, June 1). BERT-Based Text Embeddings. ScholarGate. https://scholargate.app/sv/text-mining/bert-embeddings
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Doc2VecTextutvinning↔ compare
- GloVe-inbäddningarTextutvinning↔ compare
- SentimentanalysTextutvinning↔ compare
- Word2VecTextutvinning↔ compare
Refereras av
Hittade du ett fel på sidan? Rapportera eller föreslå en rättelse →