Machine learning

Transformer (NLP)

Transformer je model dubokog učenja utemeljen na mehanizmu pažnje, koji su 2017. godine predstavili Vaswani i suradnici. On obavlja klasifikaciju teksta, prepoznavanje imenovanih entiteta i jezično modeliranje dopuštajući svakom tokenu u sekvenci da izravno pristupa svakom drugom tokenu. Zamijenio je ranije rekurentne dizajne mehanizmom samopažnje koji obrađuje cijele sekvence paralelno.

Otvorite u MethodMindUskoroVideoUskoroDownload slides

Pročitajte cijelu metodu

Samo za članove

Prijavite se besplatnim računom kako biste pročitali ovaj odjeljak.

Prijavite se

Method map

The neighbourhood of related methods — select a node to explore.

Izvori

  1. Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link

Kako citirati ovu stranicu

ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/hr/deep-learning/transformer-nlp

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Citirana u

ScholarGateTransformer (Transformer Model for Natural Language Processing). Preuzeto 2026-06-15 s https://scholargate.app/hr/deep-learning/transformer-nlp · Skup podataka: https://doi.org/10.5281/zenodo.20539026