Înregistrare dovezi metodologice

Reformer

The Reformer is an efficient variant of the Transformer architecture introduced by Kitaev, Kaiser, and Levskaya at ICLR 2020. It addresses the prohibitive O(L²) memory and computational cost of standard self-attention for long sequences. The key innovations are locality-sensitive hashing (LSH) attention, which approximates full attention in O(L log L) time, and reversible residual layers that dramatically reduce activation memory during training.

Sources recorded, not reviewed

Înregistrare sursă

Citările sunt copiate integral din înregistrarea sursă a metodei. Nu se inferă nicio verificare la nivel de afirmație din acestea.

Reformer (The Efficient Transformer)

Înregistrare metodologică taxonomică · ml-model / deep-learning

Kitaev, N., Kaiser, Ł., & Levskaya, A. (2020). Reformer: The efficient transformer. ICLR. · URL

Deschide metoda completă

Afirmații curate

Afirmațiile sunt stocate în registrul dovezilor, fiecare cu propria evaluare.

Încă nu există afirmații curate

Această vizualizare nu inventează o evaluare a afirmației dacă registrul nu conține una.

Metode conexe

Generate din graful metodelor și afișate ca relații sugerate automat — nu se inferă nicio afirmație de dovadă.

Same method familyInformermachine-suggested · Relational suggestion, not evidence.Taxonomic bucketPyraformermachine-suggested · Relational suggestion, not evidence.