QLoRA
QLoRA es un método eficiente de ajuste fino (fine-tuning) introducido por Dettmers et al. en 2023 que permite ajustar modelos de lenguaje grandes utilizando cuantificación y adaptación de bajo rango. Al combinar la cuantificación de 4 bits con LoRA, QLoRA reduce los requisitos de memoria en un 75%, lo que permite el ajuste fino de modelos de 65 mil millones de parámetros en GPUs individuales.
Leer el método completo
Inicia sesión con una cuenta gratuita para leer esta sección.
Method map
The neighbourhood of related methods — select a node to explore.
Fuentes
- Dettmers, T., Pagnoni, A., Holtzman, A., & Contrastive, L. (2023). QLoRA: Efficient finetuning of quantized LLMs. arXiv preprint arXiv:2305.14314. link ↗
Cómo citar esta página
ScholarGate. (2026, June 3). Efficient Finetuning of Quantized LLMs. ScholarGate. https://scholargate.app/es/deep-learning/qlora
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
- Optimización Directa de PreferenciasAprendizaje profundo↔ compare
- Modelos de Difusión LatenteAprendizaje profundo↔ compare
- Mamba (modelo de espacio de estados)Aprendizaje profundo↔ compare
- Autoencoders enmascaradosAprendizaje profundo↔ compare
Citado por
¿Has visto un problema en esta página? Infórmanos o sugiere una corrección →