Record di evidenza del metodo

Reformer

The Reformer is an efficient variant of the Transformer architecture introduced by Kitaev, Kaiser, and Levskaya at ICLR 2020. It addresses the prohibitive O(L²) memory and computational cost of standard self-attention for long sequences. The key innovations are locality-sensitive hashing (LSH) attention, which approximates full attention in O(L log L) time, and reversible residual layers that dramatically reduce activation memory during training.

Sources recorded, not reviewed

Record di origine

Citazioni copiate testualmente dal record di origine del metodo. Non si inferisce alcuna verifica a livello di affermazione da esse.

Reformer (The Efficient Transformer)

Record tassonomico del metodo · ml-model / deep-learning

Kitaev, N., Kaiser, Ł., & Levskaya, A. (2020). Reformer: The efficient transformer. ICLR. · URL

Apri metodo completo

Affermazioni curate

Affermazioni persistite nel registro delle evidenze, ciascuna con la propria valutazione.

Nessuna affermazione curata ancora

Questa vista non inventa una valutazione dell'affermazione quando il registro non ne ha.

Metodi correlati

Generato dal grafo dei metodi e mostrato come relazioni suggerite dalla macchina — nessuna affermazione di evidenza viene inferita.

Same method familyInformermachine-suggested · Relational suggestion, not evidence.Taxonomic bucketPyraformermachine-suggested · Relational suggestion, not evidence.