Metodin todisteiden tietue
LoRA and PEFT
LoRA (Low-Rank Adaptation), introduced by Hu et al. in 2022, and the broader family of parameter-efficient fine-tuning (PEFT) methods adapt large pretrained language models to new tasks by training only a small number of extra parameters instead of every weight in the model. This makes fine-tuning possible with far less GPU memory and compute while leaving the original model largely untouched.
Lähdetietue
Sitaatit kopioitu sanatarkasti metodin lähdetietueesta. Niistä ei päätellä väitteiden tasoista varmennusta.
Low-Rank Adaptation and Parameter-Efficient Fine-Tuning
Taksonominen metoditietue · ml-model / deep-learning
- Hu, E. J. et al. (2022). LoRA: Low-Rank Adaptation of Large Language Models. ICLR. · URL
- Lester, B. et al. (2021). The Power of Scale for Parameter-Efficient Prompt Tuning. EMNLP. · DOI 10.18653/v1/2021.emnlp-main.243
Kuratoituja väitteitä
Väitteet tallennettu todistusaineiston pääkirjaan, jokaisella oma arviointinsa.
Ei vielä kuratoituja väitteitä
Tämä näkymä ei keksi väitteen arviointia, jos pääkirjassa ei ole sitä.
Liittyvät metodit
Luotu metodigraafista ja näytetään koneen ehdottamina suhteina – väitteitä ei päätellä.