Transformer (NLP)
Transformer je model dubokog učenja zasnovan na mehanizmu pažnje, koji su predstavili Vaswani i kolege 2017. godine. On obavlja klasifikaciju teksta, prepoznavanje imenovanih entiteta i jezičko modelovanje tako što omogućava svakom tokenu u sekvenci da se direktno poveže sa svakim drugim tokenom. Zamenio je ranije rekurentne dizajne mehanizmom samo-pažnje koji obrađuje cele sekvence paralelno.
Pročitajte celu metodu
Prijavite se besplatnim nalogom da biste pročitali ovaj odeljak.
Method map
The neighbourhood of related methods — select a node to explore.
Izvori
- Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link ↗
Kako citirati ovu stranicu
ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/sr/deep-learning/transformer-nlp
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- AutoenkoderDuboko učenje↔ compare
- Logistička regresijaIstraživačka statistika↔ compare
- Slučajna šumaMašinsko učenje↔ compare
- XGBoostMašinsko učenje↔ compare
Citirana u
Uočili ste grešku na ovoj stranici? Prijavite je ili predložite ispravku →