Reformer
The Reformer is an efficient variant of the Transformer architecture introduced by Kitaev, Kaiser, and Levskaya at ICLR 2020. It addresses the prohibitive O(L²) memory and computational cost of standard self-attention for long sequences. The key innovations are locality-sensitive hashing (LSH) attention, which approximates full attention in O(L log L) time, and reversible residual layers that dramatically reduce activation memory during training.
Запис джерела
Цитати скопійовано дослівно з вихідного запису методу. Вони не передбачають перевірки на рівні тверджень.
Відібрані твердження
Твердження збережено в журналі доказів, кожне зі своєю оцінкою.
Цей перегляд не вигадує оцінку твердження, якщо в журналі її немає.
Пов'язані методи
Згенеровано з графа методів і показано як рекомендовані системою зв'язки — жодне твердження доказів не передбачається.