Registro de evidencia del método

LoRA and PEFT

LoRA (Low-Rank Adaptation), introduced by Hu et al. in 2022, and the broader family of parameter-efficient fine-tuning (PEFT) methods adapt large pretrained language models to new tasks by training only a small number of extra parameters instead of every weight in the model. This makes fine-tuning possible with far less GPU memory and compute while leaving the original model largely untouched.

Sources recorded, not reviewed

Registro de origen

Citas copiadas textualmente del registro de origen del método. No se infiere ninguna verificación a nivel de afirmación de ellas.

Low-Rank Adaptation and Parameter-Efficient Fine-Tuning

Registro del método taxonómico · ml-model / deep-learning

Abrir método completo

Afirmaciones curadas

Afirmaciones persistidas en el libro mayor de evidencia, cada una con su propia evaluación.

Aún no hay afirmaciones curadas

Esta vista no inventa una evaluación de afirmación si el libro mayor no tiene ninguna.

Métodos relacionados

Generado a partir del grafo de métodos y mostrado como relaciones sugeridas por la máquina; no se infiere ninguna afirmación de evidencia.

Same method familyGenerative Adversarial Networkmachine-suggested · Relational suggestion, not evidence.Same method familyRandom Forestmachine-suggested · Relational suggestion, not evidence.Same method familyVariational Autoencodermachine-suggested · Relational suggestion, not evidence.Same method familyVision Transformermachine-suggested · Relational suggestion, not evidence.Same method familyXGBoostmachine-suggested · Relational suggestion, not evidence.