Reformer
The Reformer is an efficient variant of the Transformer architecture introduced by Kitaev, Kaiser, and Levskaya at ICLR 2020. It addresses the prohibitive O(L²) memory and computational cost of standard self-attention for long sequences. The key innovations are locality-sensitive hashing (LSH) attention, which approximates full attention in O(L log L) time, and reversible residual layers that dramatically reduce activation memory during training.
Исходная запись
Цитирование скопировано дословно из исходной записи метода. На его основании не делается никаких выводов о проверке на уровне утверждения.
Курируемые утверждения
Утверждения сохранены в реестре доказательств, каждое со своей оценкой.
Этот вид не создает оценку утверждения, если в реестре ее нет.
Связанные методы
Сгенерировано из графа методов и показано как предложенные машиной связи — никаких выводов об утверждениях доказательств не делается.