Longformer / BigBird
Long-sequence Transformers such as Longformer (Beltagy, Peters & Cohan, 2020) and BigBird (Zaheer et al., 2020) replace the standard Transformer's O(n²) attention with sparse attention patterns that scale linearly, O(n), with sequence length. This lets a single model attend over thousands of tokens — full documents, legal texts, or genomic sequences — that would not fit a conventional Transformer.
Registre font
Les citacions es copien textualment del registre font del mètode. No s'infereix cap verificació a nivell de reclam d'elles.
- Beltagy, I., Peters, M. E. & Cohan, A. (2020). Longformer: The Long-Document Transformer. arXiv. · URL
- Zaheer, M. et al. (2020). Big Bird: Transformers for Longer Sequences. NeurIPS. · URL
Reclamacions curades
Les reclamacions s'han persistit al registre de proves, cadascuna amb la seva pròpia avaluació.
Aquesta vista no inventa una avaluació de reclam quan el registre no en té cap.
Mètodes relacionats
Generat a partir del gràfic de mètodes i mostrat com a relacions suggerides per la màquina; no s'infereix cap reclamació d'evidència.