LoRA és PEFT
A Hu et al. által 2022-ben bevezetett LoRA (Low-Rank Adaptation) és a paraméterhatékony finomhangolási (PEFT) módszerek tágabb családja nagyméretű, előre betanított nyelvi modelleket adaptál új feladatokhoz úgy, hogy a modell minden súlyának frissítése helyett csak egy kis számú extra paramétert képeznek. Ezáltal a finomhangolás sokkal kevesebb GPU-memóriával és számítási kapacitással válik lehetővé, miközben az eredeti modell nagyrészt érintetlen marad.
A teljes módszer elolvasása
Jelentkezzen be ingyenes fiókkal a szakasz elolvasásához.
Method map
The neighbourhood of related methods — select a node to explore.
Források
- Hu, E. J. et al. (2022). LoRA: Low-Rank Adaptation of Large Language Models. ICLR. link ↗
- Lester, B. et al. (2021). The Power of Scale for Parameter-Efficient Prompt Tuning. EMNLP. DOI: 10.18653/v1/2021.emnlp-main.243 ↗
Hogyan hivatkozzon erre az oldalra
ScholarGate. (2026, June 1). Low-Rank Adaptation and Parameter-Efficient Fine-Tuning. ScholarGate. https://scholargate.app/hu/deep-learning/lora-peft
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Generative Adversarial NetworkMélytanulás↔ compare
- Véletlen erdőGépi tanulás↔ compare
- Variációs AutoencoderMélytanulás↔ compare
- Vision TransformerMélytanulás↔ compare
- XGBoostGépi tanulás↔ compare
Hivatkozik rá
Hibát talált ezen az oldalon? Jelentse, vagy javasoljon javítást →