Hồ sơ bằng chứng phương pháp

Reformer

The Reformer is an efficient variant of the Transformer architecture introduced by Kitaev, Kaiser, and Levskaya at ICLR 2020. It addresses the prohibitive O(L²) memory and computational cost of standard self-attention for long sequences. The key innovations are locality-sensitive hashing (LSH) attention, which approximates full attention in O(L log L) time, and reversible residual layers that dramatically reduce activation memory during training.

Sources recorded, not reviewed

Hồ sơ nguồn

Các trích dẫn được sao chép nguyên văn từ hồ sơ nguồn của phương pháp. Không có xác minh cấp độ yêu cầu nào được suy ra từ chúng.

Reformer (The Efficient Transformer)

Hồ sơ phương pháp phân loại · ml-model / deep-learning

Kitaev, N., Kaiser, Ł., & Levskaya, A. (2020). Reformer: The efficient transformer. ICLR. · URL

Mở phương pháp đầy đủ

Các yêu cầu được tuyển chọn

Các yêu cầu được lưu trữ trong sổ cái bằng chứng, mỗi yêu cầu có đánh giá riêng.

Chưa có yêu cầu được tuyển chọn

Chế độ xem này không tạo ra đánh giá yêu cầu khi sổ cái không có.

Các phương pháp liên quan

Được tạo từ biểu đồ phương pháp và hiển thị dưới dạng các mối quan hệ được đề xuất bởi máy — không có yêu cầu bằng chứng nào được suy ra.

Same method familyInformermachine-suggested · Relational suggestion, not evidence.Taxonomic bucketPyraformermachine-suggested · Relational suggestion, not evidence.