Machine learning

Трансформер (НЛП)

Трансформер — це модель глибокого навчання на основі механізму уваги, представлена Васувані та колегами у 2017 році, яка виконує класифікацію тексту, розпізнавання іменованих сутностей та моделювання мови, дозволяючи кожному токену в послідовності безпосередньо звертати увагу на кожен інший токен. Вона замінила попередні рекурентні архітектури механізмом самостійної уваги, який обробляє цілі послідовності паралельно.

Відкрити у MethodMindНезабаромВідеоНезабаромDownload slides

Читати метод повністю

Лише для учасників

Увійдіть із безкоштовним обліковим записом, щоб прочитати цей розділ.

Увійти

Method map

The neighbourhood of related methods — select a node to explore.

Джерела

  1. Vaswani, A. et al. (2017). Attention Is All You Need. NeurIPS. link

Як цитувати цю сторінку

ScholarGate. (2026, June 1). Transformer Model for Natural Language Processing. ScholarGate. https://scholargate.app/uk/deep-learning/transformer-nlp

Which method?

Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.

Compare side by side

Згадується в

ScholarGateTransformer (Transformer Model for Natural Language Processing). Отримано 2026-06-15 з https://scholargate.app/uk/deep-learning/transformer-nlp · Набір даних: https://doi.org/10.5281/zenodo.20539026