Metodbevispost
Longformer / BigBird
Long-sequence Transformers such as Longformer (Beltagy, Peters & Cohan, 2020) and BigBird (Zaheer et al., 2020) replace the standard Transformer's O(n²) attention with sparse attention patterns that scale linearly, O(n), with sequence length. This lets a single model attend over thousands of tokens — full documents, legal texts, or genomic sequences — that would not fit a conventional Transformer.
Källpost
Citat kopierade ordagrant från metodens källpost. Ingen verifiering på källnivå härleds från dem.
Long-Sequence Transformers with Sparse Attention (Longformer / BigBird)
Taxonomisk metodpost · ml-model / deep-learning
- Beltagy, I., Peters, M. E. & Cohan, A. (2020). Longformer: The Long-Document Transformer. arXiv. · URL
- Zaheer, M. et al. (2020). Big Bird: Transformers for Longer Sequences. NeurIPS. · URL
Kuraterade påståenden
Påståenden lagrade i bevisloggen, var och en med sin egen bedömning.
Inga kuraterade påståenden ännu
Denna vy hittar inte på en påståendebedömning när loggen saknar en.
Relaterade metoder
Genererade från metodgrafen och visade som maskinföreslagna relationer – inga bevispåståenden härleds.