רשומת ראיות למתודה
LoRA and PEFT
LoRA (Low-Rank Adaptation), introduced by Hu et al. in 2022, and the broader family of parameter-efficient fine-tuning (PEFT) methods adapt large pretrained language models to new tasks by training only a small number of extra parameters instead of every weight in the model. This makes fine-tuning possible with far less GPU memory and compute while leaving the original model largely untouched.
רשומת מקור
ציטוטים הועתקו מילה במילה מרשומת המקור של המתודה. לא מוסקת כל אימות ברמת הטענה מהם.
Low-Rank Adaptation and Parameter-Efficient Fine-Tuning
רשומת מתודה טקסונומית · ml-model / deep-learning
- Hu, E. J. et al. (2022). LoRA: Low-Rank Adaptation of Large Language Models. ICLR. · URL
- Lester, B. et al. (2021). The Power of Scale for Parameter-Efficient Prompt Tuning. EMNLP. · DOI 10.18653/v1/2021.emnlp-main.243
טענות מאוצרות
טענות שנשמרו ביומן הראיות, לכל אחת הערכה משלה.
עדיין אין טענות מאוצרות
תצוגה זו אינה ממציאה הערכת טענה כאשר ליומן אין אחת.
מתודות קשורות
נוצר מגרף המתודות ומוצג כיחסים שהוצעו על ידי המכונה — לא מוסקת כל טענת ראיה.