Transformer (NLP)
Transformer to model głębokiego uczenia oparty na mechanizmie uwagi, wprowadzony przez Vaswani i współpracowników w 2017 roku, który wykonuje klasyfikację tekstu, rozpoznawanie jednostek nazwanych i modelowanie języka, pozwalając każdemu tokenowi w sekwencji na bezpośrednie zwrócenie uwagi na każdy inny token. Zastąpił wcześniejsze rekurencyjne projekty mechanizmem samo-uwagi, który przetwarza całe sekwencje równolegle.
Przeczytaj pełny opis metody
Zaloguj się na bezpłatne konto, aby przeczytać tę sekcję.
Method map
The neighbourhood of related methods — select a node to explore.
Źródła
- Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link ↗
Jak cytować tę stronę
ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/pl/deep-learning/transformer-nlp
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- AutoenkoderUczenie głębokie↔ compare
- Regresja logistycznaStatystyka w badaniach↔ compare
- Random ForestUczenie maszynowe↔ compare
- XGBoostUczenie maszynowe↔ compare
Cytowana przez
Widzisz błąd na tej stronie? Zgłoś go lub zaproponuj poprawkę →