Machine learning

Transformer (NLP)

Transformer on huomiomekanismiin perustuva syväoppimismalli, jonka Vaswani ja kollegat esittelivät vuonna 2017. Se suorittaa tekstinluokittelua, nimettyjen entiteettien tunnistusta ja kielimallinnusta sallimalla jokaisen sekvenssin tokenin kiinnittää huomionsa suoraan jokaiseen muuhun tokeniin. Se korvasi aiemmat rekurrentit mallit itsehuomiomekanismilla, joka käsittelee koko sekvenssin rinnakkain.

Avaa sovelluksessa MethodMindTulossaVideoTulossaDownload slides

Lue koko menetelmä

Vain jäsenille

Kirjaudu sisään maksuttomalla tilillä lukeaksesi tämän osion.

Kirjaudu sisään

Method map

The neighbourhood of related methods — select a node to explore.

Lähteet

  1. Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link

Näin viittaat tähän sivuun

ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/fi/deep-learning/transformer-nlp

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Tähän viittaavat

ScholarGateTransformer (Transformer Model for Natural Language Processing). Haettu 2026-06-15 osoitteesta https://scholargate.app/fi/deep-learning/transformer-nlp · Aineisto: https://doi.org/10.5281/zenodo.20539026