Запис о доказима методе
LoRA and PEFT
LoRA (Low-Rank Adaptation), introduced by Hu et al. in 2022, and the broader family of parameter-efficient fine-tuning (PEFT) methods adapt large pretrained language models to new tasks by training only a small number of extra parameters instead of every weight in the model. This makes fine-tuning possible with far less GPU memory and compute while leaving the original model largely untouched.
Изворни запис
Цитирани радови су копирани дословно из изворног записа методе. Из њих се не изводи верификација на нивоу тврдње.
Low-Rank Adaptation and Parameter-Efficient Fine-Tuning
Таксономски запис методе · ml-model / deep-learning
- Hu, E. J. et al. (2022). LoRA: Low-Rank Adaptation of Large Language Models. ICLR. · URL
- Lester, B. et al. (2021). The Power of Scale for Parameter-Efficient Prompt Tuning. EMNLP. · DOI 10.18653/v1/2021.emnlp-main.243
Куроване тврдње
Тврдње су сачуване у регистру доказа, свака са својом проценом.
Још увек нема курованих тврдњи
Овај приказ не измишља процену тврдње када регистар нема ниједну.
Сродне методе
Генерисано из графа метода и приказано као машински предложене везе — не изводи се тврдња доказа.