Longformer / BigBird
Long-sequence Transformers such as Longformer (Beltagy, Peters & Cohan, 2020) and BigBird (Zaheer et al., 2020) replace the standard Transformer's O(n²) attention with sparse attention patterns that scale linearly, O(n), with sequence length. This lets a single model attend over thousands of tokens — full documents, legal texts, or genomic sequences — that would not fit a conventional Transformer.
উৎস রেকর্ড
পদ্ধতির উৎস রেকর্ড থেকে উদ্ধৃতিগুলি হুবহু অনুলিপি করা হয়েছে। এগুলি থেকে কোনও দাবি-স্তরের যাচাইকরণ অনুমান করা হয় না।
- Beltagy, I., Peters, M. E. & Cohan, A. (2020). Longformer: The Long-Document Transformer. arXiv. · URL
- Zaheer, M. et al. (2020). Big Bird: Transformers for Longer Sequences. NeurIPS. · URL
কিউরেটেড দাবি
প্রমাণ লেজারে দাবিগুলি সংরক্ষিত আছে, প্রতিটির নিজস্ব মূল্যায়ন সহ।
প্রমাণ লেজারে কিছু না থাকলে এই ভিউ কোনও দাবি মূল্যায়ন তৈরি করে না।
সম্পর্কিত পদ্ধতি
পদ্ধতি গ্রাফ থেকে তৈরি এবং মেশিন-প্রস্তাবিত সম্পর্ক হিসাবে দেখানো হয়েছে — কোনও প্রমাণ দাবি অনুমান করা হয় না।