Machine learning

Transformeur (traitement du langage naturel)

Le Transformeur est un modèle d'apprentissage profond basé sur l'attention, introduit par Vaswani et ses collègues en 2017, qui effectue la classification de texte, la reconnaissance d'entités nommées et la modélisation linguistique en permettant à chaque jeton d'une séquence de se référer directement à tous les autres jetons. Il a remplacé les conceptions récurrentes antérieures par un mécanisme d'auto-attention qui traite des séquences entières en parallèle.

Ouvrir dans MethodMindBientôtVidéoBientôtDownload slides

Lire la méthode complète

Réservé aux membres

Connectez-vous avec un compte gratuit pour lire cette section.

Se connecter

Method map

The neighbourhood of related methods — select a node to explore.

Sources

  1. Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link

Comment citer cette page

ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/fr/deep-learning/transformer-nlp

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Référencée par

ScholarGateTransformer (Transformer Model for Natural Language Processing). Consulté le 2026-06-15 sur https://scholargate.app/fr/deep-learning/transformer-nlp · Jeu de données : https://doi.org/10.5281/zenodo.20539026