Düzenlileştirilmiş Destek Vektör Makinesi
Regularized Support Vector Machine (L1/L2-penalized SVM) · Ayrıca şöyle bilinir: Regularized SVM, L1-SVM, L2-SVM, penalized SVM
Düzenlileştirilmiş Destek Vektör Makinesi, marj maksimizasyonu ile eğitim hatası arasındaki ödünleşmeyi açıkça kontrol eden bir L1 veya L2 ceza parametresi aracılığıyla klasik SVM'yi genişletir. Cortes ve Vapnik tarafından 1995'te tanıtılan yumuşak marj formülasyonu kendi başına bir düzenlileştirilmiş modeldir ve daha sonraki L1-SVM varyantları ek olarak özellik seyreltikliğini teşvik ederek yüksek boyutlu ortamlarda otomatik değişken seçimi sağlar.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Yüksek boyutlu ortamlarda, örneğin genomik veya metin sınıflandırması gibi, otomatik özellik seçimi istediğinizde veya orta boyutlu tablosal veya metin verilerinde yüksek doğruluklu ikili veya çok sınıflı bir sınıflandırıcıya ihtiyaç duyduğunuzda Düzenlileştirilmiş SVM'yi kullanın. SVM'ler, özellik sayısının gözlemlere göre büyük olduğu durumlarda özellikle etkilidir. Ek bir kalibrasyon adımı olmadan tam olasılıksal çıktı (kalibre edilmiş olasılıklar) gerektiğinde, veriler çok büyük olduğunda (n > 100.000) çünkü eğitim maliyeti kötü ölçeklenir veya problem, teknik olmayan paydaşlar tarafından bireysel özellik katsayılarının kolay yorumlanmasını gerektirdiğinde kullanmayın.
Güçlü yönler & sınırlılıklar
- Özellik sayısının gözlem sayısını aştığı veya yaklaştığı yüksek boyutlu uzaylarda etkilidir.
- L1-SVM, yerleşik seyrek özellik seçimi sağlar, boyutu otomatik olarak azaltır.
- Çekirdek hilesi, yüksek boyutlu özellik haritalarını açıkça hesaplamadan doğrusal olmayan sınıflandırmayı sağlar.
- Dışbükey optimizasyon, yerel minimumlar olmadan küresel olarak optimal bir çözüm garanti eder.
- Lojistik regresyona kıyasla aykırı değerlere karşı dayanıklıdır çünkü yalnızca destek vektörleri sınırı tanımlar.
- Eğitim karmaşıklığı, örnek boyutuna göre kaba olarak karesel ila kübik ölçeklenir, bu da özel çözücüler olmadan büyük veri kümelerini yavaşlatır.
- Doğal olarak kalibre edilmiş sınıf olasılıkları çıktısı vermez — Platt ölçeklendirme veya izotonik regresyon gereklidir.
- Çapraz doğrulama yoluyla C'nin (ve çekirdek parametrelerinin) dikkatli ayarlanmasını gerektirir; varsayılanlar nadiren optimaldir.
- Lojistik regresyona kıyasla sınırlı yorumlanabilirlik — destek vektörü formülasyonu basit olasılık oranları veya marjinal etkiler üretmez.
SSS
C parametresi aslında neyi kontrol eder?
C, düzenlileştirme gücünün tersidir. Büyük bir C, SVM'ye yanlış sınıflandırmaları ağır bir şekilde cezalandırmasını söyler, bu da eğitim verilerine daha yakından uyan dar bir marj üretir. Küçük bir C, daha fazla marj ihlaline izin verir ve daha geniş, daha genel bir sınır üretir. Çapraz doğrulama yoluyla C'yi ayarlamak esastır.
Standart (L2) SVM yerine ne zaman L1-SVM'yi tercih etmeliyim?
Seyrek bir çözüm istediğinizde — yani, modelin birçok özellik ağırlığını otomatik olarak sıfıra ayarlamasını istediğinizde L1-SVM'yi seçin. Bu, metin madenciliği veya genomik gibi çoğu özelliğin ilgisiz olduğu yüksek boyutlu ortamlarda değerlidir. L2-SVM, çoğu özellik bilgilendirici olduğunda tipik olarak daha iyi doğruluk elde eder.
Düzenlileştirilmiş SVM olasılıkları çıktı verebilir mi?
Doğal olarak değil. Karar fonksiyonu, kalibre edilmiş bir olasılık değil, işaretli bir marj puanı verir. Platt ölçeklendirme — marj puanlarına ayrılmış bir küme üzerinde bir sigmoid uydurmak — sınıf olasılıklarını elde etmek için standart işlem sonrası adımdır.
Düzenlileştirme SVM'lerde aşırı uyumu önler mi?
Evet. C aracılığıyla düzenlileştirme model karmaşıklığını kontrol eder. Düzgün ayarlanmış bir C, modelin eğitim verilerindeki gürültüyü uydurmasını önler. Yüksek boyutlu verilerde, L1 düzenlileştirmesi ek olarak ilgisiz özellikleri sıfırlayarak etkili model karmaşıklığını azaltır.
Hangi çekirdekle başlamalıyım?
Doğrusal bir çekirdekle başlayın — hızlı, yorumlanabilir ve yüksek boyutlu veya metin ortamlarında genellikle rekabetçidir. Doğrusal çekirdek doğrulama testinde yetersiz kalırsa, RBF çekirdeğini deneyin ve hem C hem de gamayı ayarlayın. Polinom çekirdekleri daha az yaygındır ve ayarlaması daha zordur.
Kaynaklar
- Cortes, C. & Vapnik, V. (1995). Support-vector networks. Machine Learning, 20(3), 273–297. DOI: 10.1007/BF00994018 ↗
- Zhu, J., Rosset, S., Tibshirani, R. & Hastie, T. (2004). 1-norm support vector machines. Advances in Neural Information Processing Systems (NIPS), 16. link ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Regularized Support Vector Machine (L1/L2-penalized SVM). ScholarGate. https://scholargate.app/tr/machine-learning/regularized-support-vector-machine
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Lasso RegresyonuMakine öğrenmesi↔ karşılaştır
- Lineer Diskriminant Analizi (LDA)Makine öğrenmesi↔ karşılaştır
- Düzenlileştirilmiş Doğrusal RegresyonMakine öğrenmesi↔ karşılaştır
- Düzenlileştirilmiş Lojistik RegresyonMakine öğrenmesi↔ karşılaştır