Meetodi tõendite kirje

QLoRA

QLoRA is an efficient fine-tuning method introduced by Dettmers et al. in 2023 that enables fine-tuning large language models using quantization and low-rank adaptation. By combining 4-bit quantization with LoRA, QLoRA reduces memory requirements by 75%, enabling fine-tuning of 65B-parameter models on single GPUs.

Sources recorded, not reviewed

Allikakirje

Tsiteeringud kopeeritud meetodi allikakirjest sõna-sõnalt. Nendest ei saa järeldada väidete tasemel kinnitust.

Efficient Finetuning of Quantized LLMs

Taksonoomiline meetodikirje · ml-model / deep-learning

Dettmers, T., Pagnoni, A., Holtzman, A., & Contrastive, L. (2023). QLoRA: Efficient finetuning of quantized LLMs. arXiv preprint arXiv:2305.14314. · URL

Ava täielik meetod

Kureeritud väited

Väited on salvestatud tõendite registrisse, igal oma hinnanguga.

Kureeritud väiteid veel pole

See vaade ei loo väite hinnangut, kui registris seda pole.

Seotud meetodid

Genereeritud meetodigraafist ja kuvatud masina soovitatud seostena – väiteid ei järeldata.

Same method familyDirect Preference Optimizationmachine-suggested · Relational suggestion, not evidence.Same method familyLatent Diffusion Modelsmachine-suggested · Relational suggestion, not evidence.Same method familyMamba (State Space Model)machine-suggested · Relational suggestion, not evidence.Same method familyMasked Autoencodersmachine-suggested · Relational suggestion, not evidence.