Zapis dowodowy metody

Reformer

The Reformer is an efficient variant of the Transformer architecture introduced by Kitaev, Kaiser, and Levskaya at ICLR 2020. It addresses the prohibitive O(L²) memory and computational cost of standard self-attention for long sequences. The key innovations are locality-sensitive hashing (LSH) attention, which approximates full attention in O(L log L) time, and reversible residual layers that dramatically reduce activation memory during training.

Sources recorded, not reviewed

Zapis źródłowy

Cytaty skopiowane dosłownie z zapisu źródłowego metody. Nie należy z nich wywnioskować weryfikacji na poziomie twierdzenia.

Reformer (The Efficient Transformer)

Taksonomiczny zapis metody · ml-model / deep-learning

Kitaev, N., Kaiser, Ł., & Levskaya, A. (2020). Reformer: The efficient transformer. ICLR. · URL

Otwórz pełną metodę

Wyselekcjonowane twierdzenia

Twierdzenia utrwalone w rejestrze dowodowym, każde z własną oceną.

Brak wyselekcjonowanych twierdzeń

Ten widok nie tworzy oceny twierdzenia, jeśli rejestr jej nie zawiera.

Powiązane metody

Wygenerowane z grafu metod i pokazane jako sugerowane przez maszynę powiązania — nie należy z nich wywnioskować twierdzenia dowodowego.

Same method familyInformermachine-suggested · Relational suggestion, not evidence.Taxonomic bucketPyraformermachine-suggested · Relational suggestion, not evidence.