BERT-indlejringer — kontekstuelle tekstrepræsentationer
BERT-baserede tekstimdlejringer, introduceret af Devlin og kolleger hos Google AI i 2019, omdanner tekst til kontekstfølsomme tætte vektorer ved hjælp af en bidirektionel Transformer-encoder. Fordi betydningen af et ord ændrer sig med dets kontekst, producerer BERT rigere repræsentationer end statiske metoder som Word2Vec eller emnemodeller som LDA.
Læs hele metoden
Log ind med en gratis konto for at læse dette afsnit.
Method map
The neighbourhood of related methods — select a node to explore.
+21 more
Kilder
- Devlin, J., Chang, M.-W., Lee, K. & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. NAACL-HLT, 4171-4186. DOI: 10.18653/v1/N19-1423 ↗
- Tenney, I., Das, D. & Pavlick, E. (2019). BERT Rediscovers the Classical NLP Pipeline. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics (ACL), 4593-4601. DOI: 10.18653/v1/P19-1452 ↗
Sådan citerer du denne side
ScholarGate. (2026, June 1). BERT-Based Text Embeddings. ScholarGate. https://scholargate.app/da/text-mining/bert-embeddings
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Doc2VecTekstmining↔ compare
- GloVe EmbeddingsTekstmining↔ compare
- SentimentanalyseTekstmining↔ compare
- Word2VecTekstmining↔ compare
Refereret af
Har du fundet en fejl på denne side? Indberet den eller foreslå en rettelse →