Catatan bukti metode

LoRA and PEFT

LoRA (Low-Rank Adaptation), introduced by Hu et al. in 2022, and the broader family of parameter-efficient fine-tuning (PEFT) methods adapt large pretrained language models to new tasks by training only a small number of extra parameters instead of every weight in the model. This makes fine-tuning possible with far less GPU memory and compute while leaving the original model largely untouched.

Sources recorded, not reviewed

Catatan sumber

Kutipan disalin apa adanya dari catatan sumber metode. Tidak ada verifikasi tingkat klaim yang disimpulkan darinya.

Low-Rank Adaptation and Parameter-Efficient Fine-Tuning

Catatan metode taksonomi · ml-model / deep-learning

Buka metode lengkap

Klaim yang dikurasi

Klaim tersimpan dalam buku besar bukti, masing-masing dengan penilaiannya sendiri.

Belum ada klaim yang dikurasi

Tampilan ini tidak menciptakan penilaian klaim ketika buku besar tidak memilikinya.

Metode terkait

Dihasilkan dari grafik metode dan ditampilkan sebagai relasi yang disarankan mesin — tidak ada klaim bukti yang disimpulkan.

Same method familyGenerative Adversarial Networkmachine-suggested · Relational suggestion, not evidence.Same method familyRandom Forestmachine-suggested · Relational suggestion, not evidence.Same method familyVariational Autoencodermachine-suggested · Relational suggestion, not evidence.Same method familyVision Transformermachine-suggested · Relational suggestion, not evidence.Same method familyXGBoostmachine-suggested · Relational suggestion, not evidence.