سوابق شواهد روش

QLoRA

QLoRA is an efficient fine-tuning method introduced by Dettmers et al. in 2023 that enables fine-tuning large language models using quantization and low-rank adaptation. By combining 4-bit quantization with LoRA, QLoRA reduces memory requirements by 75%, enabling fine-tuning of 65B-parameter models on single GPUs.

Sources recorded, not reviewed

سوابق منبع

استنادات عیناً از سوابق منبع روش کپی شده‌اند. هیچ تأیید در سطح ادعا از آن‌ها استنباط نمی‌شود.

Efficient Finetuning of Quantized LLMs

سوابق روش طبقه‌بندی · ml-model / deep-learning

Dettmers, T., Pagnoni, A., Holtzman, A., & Contrastive, L. (2023). QLoRA: Efficient finetuning of quantized LLMs. arXiv preprint arXiv:2305.14314. · URL

باز کردن روش کامل

ادعاهای گزینش‌شده

ادعاها در دفتر ثبت شواهد ذخیره شده‌اند، هر کدام با ارزیابی خاص خود.

هنوز ادعای گزینش‌شده‌ای وجود ندارد

این نما در صورت عدم وجود ارزیابی ادعا در دفتر ثبت، ادعایی ابداع نمی‌کند.

روش‌های مرتبط

از گراف روش تولید شده و به عنوان روابط پیشنهادی ماشین نمایش داده می‌شود — هیچ ادعای مدرکی استنباط نمی‌شود.

Same method familyDirect Preference Optimizationmachine-suggested · Relational suggestion, not evidence.Same method familyLatent Diffusion Modelsmachine-suggested · Relational suggestion, not evidence.Same method familyMamba (State Space Model)machine-suggested · Relational suggestion, not evidence.Same method familyMasked Autoencodersmachine-suggested · Relational suggestion, not evidence.