Transformer (NLP)
Transformer je hlboký učebný model založený na mechanizme pozornosti, ktorý predstavili Vaswani a kolektív v roku 2017. Vykonáva klasifikáciu textu, rozpoznávanie pomenovaných entít a modelovanie jazyka tým, že umožňuje každému tokenu v sekvencii priamo sa zamerať na každý iný token. Nahradil predchádzajúce rekurentné návrhy mechanizmom samopozornosti, ktorý spracúva celé sekvencie paralelne.
Prečítať celú metódu
Ak si chcete prečítať túto sekciu, prihláste sa s bezplatným účtom.
Method map
The neighbourhood of related methods — select a node to explore.
Zdroje
- Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link ↗
Ako citovať túto stránku
ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/sk/deep-learning/transformer-nlp
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- AutoenkodérHlboké učenie↔ compare
- Logistická regresiaŠtatistika vo výskume↔ compare
- Náhodný lesStrojové učenie↔ compare
- XGBoostStrojové učenie↔ compare
Odkazujú sem
Našli ste na tejto stránke chybu? Nahláste ju alebo navrhnite opravu →