ScholarGate
Assistent
Machine learning

Transformer (NLP)

Transformeren er en oppmerksomhetsbasert dyp læringsmodell, introdusert av Vaswani og kolleger i 2017, som utfører tekstklassifisering, navngitt enhetsgjenkjenning og språkmodellering ved å la hvert token i en sekvens rette oppmerksomheten direkte mot hvert annet token. Den erstattet tidligere rekurrent design med en selv-oppmerksomhetsmekanisme som behandler hele sekvenser parallelt.

Åpne i MethodMindSnartVideoSnartDownload slides

Les hele metoden

Kun for medlemmer

Logg inn med en gratis konto for å lese denne delen.

Logg inn

Method map

The neighbourhood of related methods — select a node to explore.

Kilder

  1. Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link

Slik siterer du denne siden

ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/no/deep-learning/transformer-nlp

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Referert av

ScholarGateTransformer (Transformer Model for Natural Language Processing). Hentet 2026-06-15 fra https://scholargate.app/no/deep-learning/transformer-nlp · Datasett: https://doi.org/10.5281/zenodo.20539026