سوابق شواهد روش
Longformer / BigBird
Long-sequence Transformers such as Longformer (Beltagy, Peters & Cohan, 2020) and BigBird (Zaheer et al., 2020) replace the standard Transformer's O(n²) attention with sparse attention patterns that scale linearly, O(n), with sequence length. This lets a single model attend over thousands of tokens — full documents, legal texts, or genomic sequences — that would not fit a conventional Transformer.
سوابق منبع
استنادات عیناً از سوابق منبع روش کپی شدهاند. هیچ تأیید در سطح ادعا از آنها استنباط نمیشود.
Long-Sequence Transformers with Sparse Attention (Longformer / BigBird)
سوابق روش طبقهبندی · ml-model / deep-learning
- Beltagy, I., Peters, M. E. & Cohan, A. (2020). Longformer: The Long-Document Transformer. arXiv. · URL
- Zaheer, M. et al. (2020). Big Bird: Transformers for Longer Sequences. NeurIPS. · URL
ادعاهای گزینششده
ادعاها در دفتر ثبت شواهد ذخیره شدهاند، هر کدام با ارزیابی خاص خود.
هنوز ادعای گزینششدهای وجود ندارد
این نما در صورت عدم وجود ارزیابی ادعا در دفتر ثبت، ادعایی ابداع نمیکند.
روشهای مرتبط
از گراف روش تولید شده و به عنوان روابط پیشنهادی ماشین نمایش داده میشود — هیچ ادعای مدرکی استنباط نمیشود.