Çevrimiçi Doğrusal Regresyon
Online Linear Regression (Incremental Least-Squares) · Ayrıca şöyle bilinir: incremental linear regression, streaming linear regression, recursive least squares regression, stochastic gradient descent regression
Çevrimiçi Doğrusal Regresyon, doğrusal bir modeli gözlem başına birer birer uydurur ve her yeni veri noktası geldiğinde ağırlıkları artımlı olarak günceller. Yığın en küçük kareler yönteminin aksine, tüm veri kümesini depolamaya veya yeniden işlemeye gerek duymaz; bu da onu akış verileri, çok büyük veri kümeleri ve veri üretme sürecinin zamanla değişebileceği ortamlar için doğal bir seçim haline getirir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Veriler sürekli bir akış olarak geldiğinde ve tahminlerin hemen sunulması gerektiğinde, yığın uyumu için bellekte tutulamayacak kadar büyük veri kümeleri olduğunda veya öngörücüler ile sonuç arasındaki ilişkinin zamanla değişebileceği ve modelin uyum sağlaması gerektiği durumlarda çevrimiçi doğrusal regresyon kullanın. Ayrıca, gerçek zamanlı üretim sistemlerinde hafif bir temel çizgi olarak iyi bir seçenektir. İlişkinin güçlü bir şekilde doğrusal olmadığı, özellik mühendisliğinin tüm veri kümesi üzerinde bütünsel olarak yapılması gerektiği veya istatistiksel çıkarım için güven aralıklarıyla birlikte kesin OLS katsayılarına ihtiyaç duyduğunuz durumlarda bundan kaçının — bu durumlarda yığın doğrusal regresyon kullanın.
Güçlü yönler & sınırlılıklar
- Özellik sayısı p olmak üzere O(p) bellek ile veriyi gözlem başına birer birer işler — tam veri kümesi gerekmez.
- Kavram kaymasına sürekli olarak uyum sağlar, bu da onu finansal zaman serileri veya sensör akışları gibi duruşmasız ortamlar için uygun hale getirir.
- Güncelleme başına hesaplama açısından ucuzdur: tek bir nokta çarpımı ve bir ağırlık vektörü eklemesi.
- Birden fazla akış veya bölüm arasında doğal olarak paralelleştirilebilir.
- Yığın yeniden uyumu beklemeden gerçek zamanlı olarak tahminler üretir.
- Öğrenme oranının seçimine duyarlıdır: çok büyük olması salınıma neden olur, çok küçük olması yavaş yakınsamaya neden olur.
- Kapalı formda standart hatalar veya p-değerleri sağlamaz, bu nedenle klasik istatistiksel çıkarım doğrudan mevcut değildir.
- L2 düzenlileştirmesi eklenmediği sürece, yüksek derecede korelasyonlu özelliklerle (çoklu doğrusallık) mücadele edebilir.
- Tüm veriler zaten mevcut olduğunda ve kavram kayması olmadığında, yığın OLS'ye göre performansı düşer.
SSS
Çevrimiçi doğrusal regresyon, standart (yığın) doğrusal regresyondan nasıl farklıdır?
Yığın doğrusal regresyon, tüm veri kümesi üzerinde bir kerede normal denklemleri çözer ve kesin OLS çözümünü verir. Çevrimiçi doğrusal regresyon, her gözlemden sonra bir gradyan adımı kullanarak ağırlıkları artımlı olarak günceller ve tüm verileri hiç yüklemeden neredeyse OLS çözümüne yakınsar — kesin çıkarım istatistiklerini kaybetme maliyetiyle.
Hangi öğrenme oranını kullanmalıyım?
Yaygın bir başlangıç noktası, eta = 0.01'in özellik vektörlerinin beklenen karesel normuna bölünmesidir. Izgara araması veya uyarlanabilir yöntemler (AdaGrad, Adam), öğrenme oranını özellik başına otomatik olarak ölçeklendirir ve genellikle sabit bir küresel orandan daha kolay ayarlanır.
Çevrimiçi doğrusal regresyon kavram kaymasını ele alabilir mi?
Evet. Sabit (azalmayan) bir öğrenme oranı, modeli kaymaya karşı duyarlı tutar. Ani kaymalar için, açık kayma tespit testleri (örneğin, ADWIN) kısmi bir ağırlık sıfırlamasını tetikleyebilir. İlişkinin durağan olduğu ve nihai yakınsama istediğiniz durumlarda azalan bir oran daha iyidir.
Çevrimiçi ortamda düzenlileştirme mümkün mü?
Evet. Bir L2 cezası eklemek, çevrimiçi Ridge (Tikhonov) güncellemesini verir: her adımda mevcut ağırlık vektörünün küçük bir kesrini çıkarın. Bu, ağırlıkların seyrek veya gürültülü akışlarda büyük olmasını önler ve yüksek boyutlu ayarlarda şiddetle tavsiye edilir.
Çevrimiçi bir modeli adil bir şekilde nasıl değerlendiririm?
Önsel (test et, sonra eğit) değerlendirmeyi kullanın: modeli güncellemek için kullanmadan önce her gözlemdeki tahmin hatasını kaydedin. Bu, ayrı bir ayrılmış test kümesi olmadan genelleme hatasının tarafsız, sıralı bir tahminini verir.
Kaynaklar
- Shalev-Shwartz, S. (2012). Online Learning and Online Convex Optimization. Foundations and Trends in Machine Learning, 4(2), 107–194. DOI: 10.1561/2200000018 ↗
- Haykin, S. (2002). Adaptive Filter Theory (4th ed.). Prentice Hall. ISBN: 978-0130901262
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Online Linear Regression (Incremental Least-Squares). ScholarGate. https://scholargate.app/tr/machine-learning/online-linear-regression
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Doğrusal Regresyon (ML)Makine öğrenmesi↔ karşılaştır
- Çevrimiçi ÖğrenmeMakine öğrenmesi↔ karşılaştır
- Online Lojistik RegresyonMakine öğrenmesi↔ karşılaştır
- Düzenlileştirilmiş Doğrusal RegresyonMakine öğrenmesi↔ karşılaştır
- Ridge Regression (Sırt Regresyonu)Makine öğrenmesi↔ karşılaştır
- Stokastik Gradyan İnişi (SGD)Makine öğrenmesi↔ karşılaştır