LoRA dhe PEFT
LoRA (Low-Rank Adaptation), prezantuar nga Hu et al. në vitin 2022, dhe familja më e gjerë e metodave të përsosjes efikase të parametrave (PEFT) përshtatin modelet e mëdha të parapërgatitura gjuhësore për detyra të reja duke trajnuar vetëm një numër të vogël parametrash shtesë në vend të çdo peshe në model. Kjo e bën të mundur përsosjen me shumë më pak memorie GPU dhe fuqi llogaritëse, duke lënë modelin origjinal kryesisht të paprekur.
Lexoni metodën e plotë
Hyni me një llogari falas për ta lexuar këtë seksion.
Method map
The neighbourhood of related methods — select a node to explore.
Burimet
- Hu, E. J. et al. (2022). LoRA: Low-Rank Adaptation of Large Language Models. ICLR. link ↗
- Lester, B. et al. (2021). The Power of Scale for Parameter-Efficient Prompt Tuning. EMNLP. DOI: 10.18653/v1/2021.emnlp-main.243 ↗
Si ta citoni këtë faqe
ScholarGate. (2026, June 1). Low-Rank Adaptation and Parameter-Efficient Fine-Tuning. ScholarGate. https://scholargate.app/sq/deep-learning/lora-peft
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Rrjeti kundërshtar gjeneruesMësimi i thellë↔ compare
- Pylli i RastësishëmMësimi i makinës↔ compare
- Autoenkoderi VarioacionalMësimi i thellë↔ compare
- Vision TransformerMësimi i thellë↔ compare
- XGBoostMësimi i makinës↔ compare
Cituar nga
Vutë re një problem në këtë faqe? Raportojeni ose sugjeroni një korrigjim →