LoRA et PEFT
LoRA (Low-Rank Adaptation), introduite par Hu et al. en 2022, et la famille plus large des méthodes de réglage fin efficaces en paramètres (PEFT) adaptent de grands modèles pré-entraînés à de nouvelles tâches en n'entraînant qu'un petit nombre de paramètres supplémentaires au lieu de chaque poids du modèle. Cela rend le réglage fin possible avec beaucoup moins de mémoire GPU et de calcul, tout en laissant le modèle d'origine largement intact.
Lire la méthode complète
Connectez-vous avec un compte gratuit pour lire cette section.
Method map
The neighbourhood of related methods — select a node to explore.
Sources
- Hu, E. J. et al. (2022). LoRA: Low-Rank Adaptation of Large Language Models. ICLR. link ↗
- Lester, B. et al. (2021). The Power of Scale for Parameter-Efficient Prompt Tuning. EMNLP. DOI: 10.18653/v1/2021.emnlp-main.243 ↗
Comment citer cette page
ScholarGate. (2026, June 1). Low-Rank Adaptation and Parameter-Efficient Fine-Tuning. ScholarGate. https://scholargate.app/fr/deep-learning/lora-peft
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Réseau antagoniste génératifApprentissage profond↔ compare
- Forêt AléatoireApprentissage automatique↔ compare
- Autoencodeur VariationnelApprentissage profond↔ compare
- Vision TransformerApprentissage profond↔ compare
- XGBoostApprentissage automatique↔ compare
Référencée par
Une erreur sur cette page ? Signalez-la ou proposez une correction →