Machine learning
LoRA ו-PEFT
LoRA (הסתגלות בדרגה נמוכה), שהוצגה על ידי Hu et al. בשנת 2022, והמשפחה הרחבה יותר של שיטות כוונון עדין יעיל-פרמטרית (PEFT) מתאימות מודלי שפה גדולים שאומנו מראש למשימות חדשות על ידי אימון מספר קטן בלבד של פרמטרים נוספים במקום כל משקל במודל. זה הופך את הכוונון העדין לאפשרי עם הרבה פחות זיכרון GPU וחישוב, תוך השארת המודל המקורי ללא שינוי רב.
קראו את השיטה במלואה
לחברים בלבד
התחברותהתחברו עם חשבון חינמי כדי לקרוא חלק זה.
Method map
The neighbourhood of related methods — select a node to explore.
מקורות
- Hu, E. J. et al. (2022). LoRA: Low-Rank Adaptation of Large Language Models. ICLR. link ↗
- Lester, B. et al. (2021). The Power of Scale for Parameter-Efficient Prompt Tuning. EMNLP. DOI: 10.18653/v1/2021.emnlp-main.243 ↗
איך לצטט עמוד זה
ScholarGate. (2026, June 1). Low-Rank Adaptation and Parameter-Efficient Fine-Tuning. ScholarGate. https://scholargate.app/he/deep-learning/lora-peft
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- רשת יריבות יוצרת (Generative Adversarial Network)למידה עמוקה↔ compare
- יער אקראילמידת מכונה↔ compare
- מפענח אוטומטי וריאציונילמידה עמוקה↔ compare
- טרנספורמר ראייהלמידה עמוקה↔ compare
- XGBoostלמידת מכונה↔ compare