Záznam důkazů metody

LoRA and PEFT

LoRA (Low-Rank Adaptation), introduced by Hu et al. in 2022, and the broader family of parameter-efficient fine-tuning (PEFT) methods adapt large pretrained language models to new tasks by training only a small number of extra parameters instead of every weight in the model. This makes fine-tuning possible with far less GPU memory and compute while leaving the original model largely untouched.

Sources recorded, not reviewed

Zdrojový záznam

Citace zkopírované doslovně ze zdrojového záznamu metody. Nejsou z nich vyvozovány žádné ověření na úrovni tvrzení.

Low-Rank Adaptation and Parameter-Efficient Fine-Tuning

Taxonomický záznam metody · ml-model / deep-learning

Otevřít celou metodu

Spravovaná tvrzení

Tvrzení uložená v registru důkazů, každé s vlastním hodnocením.

Zatím žádná spravovaná tvrzení

Tento pohled nevymýšlí hodnocení tvrzení, pokud registr žádné neobsahuje.

Související metody

Vygenerováno z grafu metod a zobrazeno jako strojově navržené vztahy – nejsou z nich vyvozována žádná tvrzení o důkazech.

Same method familyGenerative Adversarial Networkmachine-suggested · Relational suggestion, not evidence.Same method familyRandom Forestmachine-suggested · Relational suggestion, not evidence.Same method familyVariational Autoencodermachine-suggested · Relational suggestion, not evidence.Same method familyVision Transformermachine-suggested · Relational suggestion, not evidence.Same method familyXGBoostmachine-suggested · Relational suggestion, not evidence.