Düzenlileştirilmiş Naive Bayes
Regularized Naive Bayes Classifier · Ayrıca şöyle bilinir: Smoothed Naive Bayes, Laplace-smoothed Naive Bayes, Regularized NB, Complement Naive Bayes
Düzenlileştirilmiş Naive Bayes, klasik Naive Bayes olasılıksal sınıflandırıcısını, görülmeyen özellik değerleri için sıfır olasılık tahminlerini önlemek ve aşırı uyumu azaltmak amacıyla açık düzeltme veya büzülme ile - en yaygın olarak Laplace (toplama) düzeltmesi - zenginleştirir. Sonuç, özellikle metin gibi seyrek veya yüksek boyutlu verilerde, düzeltilmemiş Naive Bayes'ten daha iyi genelleme yapan hızlı, sağlam bir sınıflandırıcıdır.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Yüksek boyutlu veya seyrek verilerde - özellikle metin sınıflandırması (spam tespiti, duygu analizi, konu etiketleme), belge kategorizasyonu ve özelliklerin sınıfa göre yaklaşık olarak bağımsız olduğu herhangi bir görevde - hızlı, yorumlanabilir bir olasılıksal sınıflandırıcıya ihtiyaç duyduğunuzda Düzenlileştirilmiş Naive Bayes'i kullanın. Doğal dil işleme görevleri için güçlü bir temel oluşturur ve küçük eğitim kümeleriyle bile iyi performans gösterir. Laplace düzeltmesi (alfa=1) standart varsayılandır; alfa'yı bir doğrulama kümesinde ayarlayın. Özelliklerin güçlü bir şekilde ilişkili olduğu durumlarda (bağımsızlık varsayımı bozulur), sürekli özelliklerin ön işleme olmadan yüksek derecede Gauss olmayan dağılımlara sahip olduğu durumlarda veya yapılandırılmış tablo verilerinde maksimum tahmin doğruluğunun birincil hedef olduğu durumlarda kaçının - gradyan artırma yöntemleri genellikle yapılandırılmış tablo verilerinde Naive Bayes'ten daha iyi performans gösterir.
Güçlü yönler & sınırlılıklar
- Eğitmek ve tahmin etmek için son derece hızlıdır, özellik ve örnek sayısında doğrusal olarak ölçeklenir.
- Küçük eğitim kümeleri ve kelime çantası gibi yüksek boyutlu seyrek özellik uzaylarıyla iyi çalışır.
- Doğal olarak çok sınıflı problemleri değişiklik yapmadan ele alır.
- Doğrudan kalibre edilmiş olasılık tahminleri üretir, sıralama ve karar verme için kullanışlıdır.
- Laplace düzeltmesi, sıfır olasılık hatalarını önleyen ilkeli bir Bayesci önseldir.
- Yorumlanabilir: sınıf başına özellik olasılıkları, modelin ne öğrendiğini anlamak için incelenebilir.
- Özellikler ilişkiliyse, koşullu bağımsızlık varsayımı ihlal edilir, bu da etkileşimli özelliklere sahip tablo verilerinde doğruluğu olumsuz etkileyebilir.
- Standart Naive Bayes, bağımsızlık varsayımı güçlü bir şekilde ihlal edildiğinde kötü kalibre edilebilir; düzenlileştirme yardımcı olur ancak bunu tam olarak düzeltmez.
- Sürekli özellikler dağılımsal varsayımlar gerektirir (örneğin, Gauss NB); bu varsayımların ihlali performansı düşürür.
- Tahmin doğruluğu genellikle gradyan artırma, rastgele ormanlar ve SVM'lerin karmaşık tablo veri kümelerindeki performansının gerisinde kalır.
SSS
Evet, her sınıf için özellik başına bir Gauss dağılımı tahmin eden Gauss Naive Bayes kullanılarak. Buradaki düzenlileştirme, dejeneratif sıfır-varyans tahminlerini önlemek için bir varyans düzeltme sabiti eklemeyi ifade eder. Bu varyant, sürekli özellikler her sınıf içinde yaklaşık olarak normal dağıldığında iyi çalışır.
Düzenlileştirilmiş Naive Bayes, lojistik regresyon ile nasıl karşılaştırılır?
Her ikisi de log-olasılık uzayında doğrusal sınıflandırıcılardır. Lojistik regresyon doğrudan sınıf sınırını optimize eder ve genellikle veri seyrek olmadığında daha doğrudur. Düzenlileştirilmiş Naive Bayes daha hızlı eğitilir, daha az veri gerektirir ve yüksek boyutlu seyrek metinlerde daha sağlamdır. Pratikte, L2 düzenlileştirmeli lojistik regresyon, dengeli tablo verilerinde genellikle Naive Bayes'i geride bırakır.
Düzeltme parametresi alfa'yı nasıl seçerim?
Alfa'yı bir hiper parametre olarak kabul edin ve {0.01, 0.1, 0.5, 1.0, 2.0, 5.0} gibi bir grid üzerinde çapraz doğrulama ile ayarlayın. Daha büyük alfa değerleri daha güçlü düzenlileştirme uygular, olasılıkları tekdüze olmaya doğru iter; daha küçük değerler gözlemlenen frekanslara daha yakın kalır.
Etiketlenmiş veri kümenizi MethodMind'a yükleyin, Düzenlileştirilmiş Naive Bayes'i seçin, özellik türünü (sayımlar/metin için çok terimli, sürekli için Gauss, ikili için Bernoulli) seçin, düzeltme parametresi alfa'yı ayarlayın ve doğruluk, F1 ve kalibrasyon grafikleriyle çapraz doğrulama değerlendirmesi çalıştırın.
How does Regularized Naive Bayes compare to logistic regression?
Both are linear classifiers in log-probability space. Logistic regression directly optimizes the class boundary and is generally more accurate when data is not sparse. Regularized Naive Bayes trains faster, requires less data, and is more robust on high-dimensional sparse text. In practice, logistic regression with L2 regularization often edges out Naive Bayes on balanced tabular data.
How do I choose the smoothing parameter alpha?
Treat alpha as a hyperparameter and tune it with cross-validation over a grid such as {0.01, 0.1, 0.5, 1.0, 2.0, 5.0}. Larger alpha values impose stronger regularization, pushing likelihoods toward uniform; smaller values stay closer to observed frequencies.
Kaynaklar
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Regularized Naive Bayes Classifier. ScholarGate. https://scholargate.app/tr/machine-learning/regularized-naive-bayes
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Lojistik RegresyonAraştırma istatistiği↔ karşılaştır
- Naive BayesMakine öğrenmesi↔ karşılaştır
- Düzenlileştirilmiş Lojistik RegresyonMakine öğrenmesi↔ karşılaştır
- Düzenlileştirilmiş Destek Vektör MakinesiMakine öğrenmesi↔ karşılaştır