Reformer
The Reformer is an efficient variant of the Transformer architecture introduced by Kitaev, Kaiser, and Levskaya at ICLR 2020. It addresses the prohibitive O(L²) memory and computational cost of standard self-attention for long sequences. The key innovations are locality-sensitive hashing (LSH) attention, which approximates full attention in O(L log L) time, and reversible residual layers that dramatically reduce activation memory during training.
Registre font
Les citacions es copien textualment del registre font del mètode. No s'infereix cap verificació a nivell de reclam d'elles.
Reclamacions curades
Les reclamacions s'han persistit al registre de proves, cadascuna amb la seva pròpia avaluació.
Aquesta vista no inventa una avaluació de reclam quan el registre no en té cap.
Mètodes relacionats
Generat a partir del gràfic de mètodes i mostrat com a relacions suggerides per la màquina; no s'infereix cap reclamació d'evidència.