רשומת ראיות למתודה

QLoRA

QLoRA is an efficient fine-tuning method introduced by Dettmers et al. in 2023 that enables fine-tuning large language models using quantization and low-rank adaptation. By combining 4-bit quantization with LoRA, QLoRA reduces memory requirements by 75%, enabling fine-tuning of 65B-parameter models on single GPUs.

Sources recorded, not reviewed

רשומת מקור

ציטוטים הועתקו מילה במילה מרשומת המקור של המתודה. לא מוסקת כל אימות ברמת הטענה מהם.

Efficient Finetuning of Quantized LLMs

רשומת מתודה טקסונומית · ml-model / deep-learning

Dettmers, T., Pagnoni, A., Holtzman, A., & Contrastive, L. (2023). QLoRA: Efficient finetuning of quantized LLMs. arXiv preprint arXiv:2305.14314. · URL

פתח מתודה מלאה

טענות מאוצרות

טענות שנשמרו ביומן הראיות, לכל אחת הערכה משלה.

עדיין אין טענות מאוצרות

תצוגה זו אינה ממציאה הערכת טענה כאשר ליומן אין אחת.

מתודות קשורות

נוצר מגרף המתודות ומוצג כיחסים שהוצעו על ידי המכונה — לא מוסקת כל טענת ראיה.

Same method familyDirect Preference Optimizationmachine-suggested · Relational suggestion, not evidence.Same method familyLatent Diffusion Modelsmachine-suggested · Relational suggestion, not evidence.Same method familyMamba (State Space Model)machine-suggested · Relational suggestion, not evidence.Same method familyMasked Autoencodersmachine-suggested · Relational suggestion, not evidence.