Embeddings BERT — Représentations textuelles contextuelles
Les embeddings BERT, introduits par Devlin et ses collègues chez Google AI en 2019, transforment le texte en vecteurs denses sensibles au contexte à l'aide d'un encodeur Transformer bidirectionnel. Parce que le sens d'un mot change avec son contexte, BERT produit des représentations plus riches que les méthodes statiques telles que Word2Vec ou les modèles thématiques comme LDA.
Lire la méthode complète
Connectez-vous avec un compte gratuit pour lire cette section.
Method map
The neighbourhood of related methods — select a node to explore.
+21 more
Sources
- Devlin, J., Chang, M.-W., Lee, K. & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. NAACL-HLT, 4171-4186. DOI: 10.18653/v1/N19-1423 ↗
- Tenney, I., Das, D. & Pavlick, E. (2019). BERT Rediscovers the Classical NLP Pipeline. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics (ACL), 4593-4601. DOI: 10.18653/v1/P19-1452 ↗
Comment citer cette page
ScholarGate. (2026, June 1). BERT-Based Text Embeddings. ScholarGate. https://scholargate.app/fr/text-mining/bert-embeddings
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Doc2VecFouille de textes↔ compare
- GloVeFouille de textes↔ compare
- Analyse des sentimentsFouille de textes↔ compare
- Word2VecFouille de textes↔ compare
Référencée par
Une erreur sur cette page ? Signalez-la ou proposez une correction →