Machine learning

Transformer (NLP)

El Transformer és un model d'aprenentatge profund basat en l'atenció, introduït per Vaswani i col·laboradors el 2017, que realitza classificació de text, reconeixement d'entitats nomenades i modelatge del llenguatge permetent que cada testimoni (token) en una seqüència atengui directament a cada altre testimoni. Va substituir dissenys recurrents anteriors amb un mecanisme d'autoatenció que processa seqüències senceres en paral·lel.

Obre a MethodMindAviatVídeoAviatDownload slides

Llegeix el mètode complet

Només per a membres

Inicia la sessió amb un compte gratuït per llegir aquesta secció.

Inicia la sessió

Method map

The neighbourhood of related methods — select a node to explore.

Fonts

  1. Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link

Com citar aquesta pàgina

ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/ca/deep-learning/transformer-nlp

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Citat per

ScholarGateTransformer (Transformer Model for Natural Language Processing). Recuperat el 2026-06-15 de https://scholargate.app/ca/deep-learning/transformer-nlp · Conjunt de dades: https://doi.org/10.5281/zenodo.20539026