Record di evidenza del metodo

LoRA and PEFT

LoRA (Low-Rank Adaptation), introduced by Hu et al. in 2022, and the broader family of parameter-efficient fine-tuning (PEFT) methods adapt large pretrained language models to new tasks by training only a small number of extra parameters instead of every weight in the model. This makes fine-tuning possible with far less GPU memory and compute while leaving the original model largely untouched.

Sources recorded, not reviewed

Record di origine

Citazioni copiate testualmente dal record di origine del metodo. Non si inferisce alcuna verifica a livello di affermazione da esse.

Low-Rank Adaptation and Parameter-Efficient Fine-Tuning

Record tassonomico del metodo · ml-model / deep-learning

Apri metodo completo

Affermazioni curate

Affermazioni persistite nel registro delle evidenze, ciascuna con la propria valutazione.

Nessuna affermazione curata ancora

Questa vista non inventa una valutazione dell'affermazione quando il registro non ne ha.

Metodi correlati

Generato dal grafo dei metodi e mostrato come relazioni suggerite dalla macchina — nessuna affermazione di evidenza viene inferita.

Same method familyGenerative Adversarial Networkmachine-suggested · Relational suggestion, not evidence.Same method familyRandom Forestmachine-suggested · Relational suggestion, not evidence.Same method familyVariational Autoencodermachine-suggested · Relational suggestion, not evidence.Same method familyVision Transformermachine-suggested · Relational suggestion, not evidence.Same method familyXGBoostmachine-suggested · Relational suggestion, not evidence.