QLoRA
Efficient Finetuning of Quantized LLMs · Ayrıca şöyle bilinir: QLoRA, Quantized LoRA
QLoRA, Dettmers ve ark. tarafından 2023'te tanıtılan, büyük dil modellerinin niceleme (quantization) ve düşük-rank uyarlaması (low-rank adaptation) kullanılarak ince ayarlanmasını sağlayan verimli bir ince ayar yöntemidir. 4-bit nicelemeyi LoRA ile birleştirerek, QLoRA bellek gereksinimlerini %75 oranında azaltır ve tekil GPU'larda 65B parametreli modellerin ince ayarlanmasına olanak tanır.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
QLoRA, GPU belleğinin sınırlı olduğu ve büyük modelleri ince ayarlamanız gerektiğinde esastır. Birden fazla üst düzey GPU'ya erişimi olmayan araştırmacılar ve uygulayıcılar için idealdir. Belleğin bol olduğu ve maksimum doğruluğun kritik olduğu durumlarda tam ince ayar kullanın. QLoRA, tüketici donanımında alan uyarlaması ve talimat ince ayarı için özellikle değerlidir.
Güçlü yönler & sınırlılıklar
- 4-bit niceleme yoluyla bellek gereksinimlerini %75 oranında azaltır, tekil tüketici GPU'larında ince ayar yapılmasına olanak tanır
- Aşırı niceleme ve parametre azaltmaya rağmen tam ince ayarla karşılaştırılabilir doğruluk seviyesini korur
- Pahalı çoklu GPU kümelerine erişim olmadan büyük modeller üzerinde hızlı yinelemeye olanak tanır
- LoRA entegrasyonunu destekleyen herhangi bir model mimarisiyle çalışır
- Niceleme/çözme ek yükü nedeniyle tam ince ayardan biraz daha yavaş eğitim
- Tam ince ayara kıyasla temel model temsilleri üzerinde ince ayarlı kontrolün bir miktar kaybedilmesi olasıdır
- Ağırlık değişikliklerinin önemli ölçüde olduğu görevlerde performans düşebilir
SSS
Neden nicemleme ve LoRA'yı tek bir yaklaşım yerine birleştiriyorsunuz?
Tek başına niceleme model boyutunu azaltır ancak eğitim sırasında optimize edici durumları için hala önemli miktarda bellek gerektirir. Tek başına LoRA eğitilebilir parametreleri azaltır ancak temel model tam hassasiyetli depolama gerektirir. Her ikisini birleştirmek çarpımsal faydalar sağlar: niceleme temel model belleğini azaltır, LoRA parametrelerin %99'u için pahalı optimize edici durumlarını ortadan kaldırır.
NF4 nicelemesi nedir ve neden int4 yerine kullanılır?
NF4 (normalize edilmiş kayan nokta 4-bit), ağırlıkları standart int4 nicelemesine kıyasla ağırlık dağılımını daha iyi koruyan normalize edilmiş bir kayan nokta formatında temsil eder. Normal dağılımlardan (sinir ağlarında yaygındır) çekilen ağırlıklar için NF4, niceleme hatasını ve bilgi kaybını en aza indirir, aşırı sıkıştırmaya rağmen doğruluğu korur.
QLoRA tam ince ayar doğruluğunu yakalayabilir mi?
Çoğu durumda, QLoRA alan uyarlaması ve talimat ince ayarı görevleri için tam ince ayarla karşılaştırılabilir doğruluk elde eder. Ancak, önemli ağırlık değişiklikleri gerektiren görevlerde, tam ince ayar QLoRA'dan biraz daha iyi performans gösterebilir. LoRA rank'ı görev karmaşıklığına göre ayarlanmalıdır; daha yüksek rank'lı LoRA, tam ince ayarı daha yakından yaklaştırır.
Kaynaklar
- Dettmers, T., Pagnoni, A., Holtzman, A., & Contrastive, L. (2023). QLoRA: Efficient finetuning of quantized LLMs. arXiv preprint arXiv:2305.14314. link ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Efficient Finetuning of Quantized LLMs. ScholarGate. https://scholargate.app/tr/deep-learning/qlora
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Doğrudan Tercih OptimizasyonuDerin öğrenme↔ karşılaştır
- Gizil Yayılım ModelleriDerin öğrenme↔ karşılaştır
- Mamba (Durum Uzay Modeli)Derin öğrenme↔ karşılaştır
- Masked Autoencoders (MAE)Derin öğrenme↔ karşılaştır