Transformer (NLP)
Transformer je hluboký učící model založený na mechanismu pozornosti, představený Vasvanim a kolektivem v roce 2017, který provádí klasifikaci textu, rozpoznávání pojmenovaných entit a jazykové modelování tím, že umožňuje každému tokenu v sekvenci přímo se zaměřit na každý jiný token. Nahradil dřívější rekurentní návrhy mechanismem vlastní pozornosti, který zpracovává celé sekvence paralelně.
Přečíst celou metodu
Pro přečtení této sekce se přihlaste s bezplatným účtem.
Method map
The neighbourhood of related methods — select a node to explore.
Zdroje
- Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link ↗
Jak citovat tuto stránku
ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/cs/deep-learning/transformer-nlp
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- AutoencoderHluboké učení↔ compare
- Logistická regreseStatistika ve výzkumu↔ compare
- Random ForestStrojové učení↔ compare
- XGBoostStrojové učení↔ compare
Odkazuje sem
Našli jste na této stránce chybu? Nahlaste ji nebo navrhněte opravu →