ScholarGate
ผู้ช่วย

เปรียบเทียบวิธี

ดูวิธีที่เลือกเทียบกันแบบเคียงข้าง แถวที่ต่างกันจะถูกเน้นไว้

Mamba (แบบจำลองปริภูมิสถานะ)×Masked Autoencoders×คิวโลรา×
สาขาวิชาการเรียนรู้เชิงลึกการเรียนรู้เชิงลึกการเรียนรู้เชิงลึก
ตระกูลMachine learningMachine learningMachine learning
ปีกำเนิด202320212023
ผู้ริเริ่มAlbert GuKaiming HeTim Dettmers
ประเภทNeural network architectureNeural network architectureTraining methodology
แหล่งต้นตำรับGu, A., & Dao, C. (2023). Mamba: Linear-time sequence modeling with selective state spaces. arXiv preprint arXiv:2312.08956. link ↗He, K., Chen, X., Xie, S., Li, Y., Dollár, P., & Girshick, R. (2022). Masked autoencoders are scalable vision learners. In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (pp. 16000-16009). DOI ↗Dettmers, T., Pagnoni, A., Holtzman, A., & Contrastive, L. (2023). QLoRA: Efficient finetuning of quantized LLMs. arXiv preprint arXiv:2305.14314. link ↗
ชื่อเรียกอื่นMamba, State space models, Selective state spaceMAE, Vision MAEQLoRA, Quantized LoRA
ที่เกี่ยวข้อง444
สรุปMamba is a sequence model architecture introduced by Gu and Dao in 2023 that achieves linear-time complexity while maintaining strong performance on language modeling tasks. By combining state space models with input-dependent selectivity, Mamba addresses the quadratic complexity of transformers while preserving modeling power.Masked Autoencoders (MAE) is a self-supervised learning approach introduced by He et al. in 2021 that masks random patches of an image and trains a model to reconstruct the missing content. Adapting the masked language modeling paradigm from NLP to vision, MAE learns rich visual representations by solving a challenging reconstruction task without requiring labels.QLoRA is an efficient fine-tuning method introduced by Dettmers et al. in 2023 that enables fine-tuning large language models using quantization and low-rank adaptation. By combining 4-bit quantization with LoRA, QLoRA reduces memory requirements by 75%, enabling fine-tuning of 65B-parameter models on single GPUs.
ScholarGateชุดข้อมูล
  1. v1
  2. 1 แหล่งอ้างอิง
  3. PUBLISHED
  1. v1
  2. 1 แหล่งอ้างอิง
  3. PUBLISHED
  1. v1
  2. 1 แหล่งอ้างอิง
  3. PUBLISHED

ไปที่หน้าค้นหา ดาวน์โหลดสไลด์

ScholarGateเปรียบเทียบวิธี: Mamba (State Space Model) · Masked Autoencoders · QLoRA. สืบค้นเมื่อ 2026-06-18 จาก https://scholargate.app/th/compare