Düzenlileştirilmiş Yarı-Denetimli Öğrenme
Regularized Semi-Supervised Learning (Manifold Regularization and Graph-Based SSL) · Ayrıca şöyle bilinir: manifold regularization, graph-regularized SSL, semi-supervised regularization, Laplacian regularization
Düzenlileştirilmiş yarı-denetimli öğrenme, karar fonksiyonunun veri manifoldu üzerinde pürüzsüz bir şekilde değişmesini sağlamak amacıyla, bir yarı-denetimli hedefe açık geometrik veya graf tabanlı ceza terimleri ekler. Manifold düzenlileştirmesi (Belkin, Niyogi & Sindhwani, 2006) aracılığıyla öncülük edilen bu yöntem, etiketli verinin kıt olduğu durumlarda, yalnızca denetimli düzenlileştirme ile öğrenilen modellerden daha doğru modeller öğrenmek için hem etiketli hem de etiketsiz örneklerin yapısından yararlanır.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Etiketli örneklerin pahalı veya nadir olduğu ancak aynı dağılımdan büyük miktarda etiketsiz verinin mevcut olduğu ve küme veya manifold varsayımının makul olduğu — yani benzer girdilerin benzer etiketleri paylaşması gerektiği — durumlarda düzenlileştirilmiş yarı-denetimli öğrenmeyi kullanın. Metin sınıflandırma, az sayıda etiketle görüntü tanıma, biyoinformatik ve etiket edinmenin bir darboğaz olduğu herhangi bir ortam için uygundur. Etiketli ve etiketsiz veriler farklı dağılımlardan geldiğinde (dağılım kayması manifold varsayımını geçersiz kılar), veri kümesi tamamen etiketlendiğinde (standart düzenlileştirme daha basittir ve eşit derecede etkilidir), graf oluşturma maliyeti çok büyük veri kümeleri için karşılanamaz olduğunda veya paydaşlar tarafından yorumlanabilir doğrusal katsayılar gerektiğinde bundan kaçının.
Güçlü yönler & sınırlılıklar
- Etiketler kıt olduğunda genellemeyi iyileştirmek için etiketsiz verilerden yararlanır, genellikle yalnızca denetimli düzenlileştirilmiş modellerden daha iyi performans gösterir.
- İlkesel geometrik çerçeve: manifold varsayımı, graf Laplası aracılığıyla teorik gerekçe sağlar.
- Birçok temel öğrenici ile uyumludur — çekirdekler (SVM, RLS), sinir ağları ve graf sinir ağları manifold düzenlileştirmesini kabul eder.
- Hiperparametreler (gamma_A, gamma_I) yorumlanabilirdir: biri küresel karmaşıklığı kontrol eder, diğeri geometrik pürüzsüzlüğü kontrol eder.
- Metin ve görüntü verileri gibi etiketli örneklerin maliyetli olduğu yüksek boyutlu alanlarda etkili olduğu kanıtlanmıştır.
- Graf oluşturma, veri kümesi boyutuna göre karesel olarak ölçeklenir; büyük veri kümeleri için yaklaşık yöntemler (yaklaşık kNN, seyrek graflar) gereklidir.
- Manifold veya küme varsayımı başarısız olduğunda, örneğin etiketli ve etiketsiz kümeler arasında önemli dağılım kayması olduğunda performans düşer.
- Tek yerine iki düzenlileştirme hiperparametresinin ayarlanmasını gerektirir ve optimal graf komşuluk boyutu k üçüncü bir seçeneği ekler.
- Transdüktif varyantlar, graf yeniden oluşturulmadan görülmeyen test noktalarına genelleme yapmaz, bu da dağıtım esnekliğini sınırlar.
SSS
Bu, düzenlileştirme olmadan standart yarı-denetimli öğrenmeden nasıl farklıdır?
Öz-eğitim veya eş-eğitim gibi standart SSL yöntemleri geometrik tutarsızlığı açıkça cezalandırmaz. Manifold düzenlileştirmesi, pürüzsüzlük varsayımını sezgisel etiket yayma yerine matematiksel olarak kodlayan, hedefe ilkeli bir graf Laplası cezası ekler.
Manifold varsayımı nedir ve ne zaman geçerlidir?
Manifold varsayımı, gerçek karar sınırının yüksek boyutlu girdi uzayına gömülü düşük boyutlu bir manifold üzerinde veya yakınında bulunduğunu, böylece geometrik olarak yakın noktaların aynı etiketi paylaşması gerektiğini belirtir. Doğal görüntüler, metin gömmeleri ve biyolojik diziler için geçerli olma eğilimindedir, ancak sınıf çakışması, gürültü veya dağılım kayması altında başarısız olur.
gamma_A ve gamma_I'yi nasıl seçerim?
Her iki hiperparametre de etiketli alt küme üzerinde çapraz doğrulama ile seçilir. gamma_A, temel fonksiyonun ne kadar karmaşık olabileceğini kontrol eder; gamma_I, geometrik pürüzsüzlüğün ne kadar güçlü bir şekilde uygulandığını kontrol eder. Pratikte, logaritmik bir ölçekte (örneğin, 10^-5 ila 10^1) bir grid araması standarttır.
Bu derin sinir ağlarına uygulanabilir mi?
Evet. Graf Laplası cezası, bir sinir ağının eğitim kaybına eklenebilir ve bu da derin manifold düzenlileştirmesi sağlar. Alternatif olarak, graf sinir ağları ve kendi kendine denetimli karşılaştırmalı yöntemler, ölçekte benzer geometrik pürüzsüzlük kısıtlamalarını örtük olarak uygulayan olarak görülebilir.
Etiketsiz veriler her zaman yardımcı olur mu?
Her zaman değil. Etiketsiz veriler manifold varsayımını ihlal ederse veya yeterli etiket varsa, graf cezasını eklemek performansa zarar verebilir. Yaklaşımı dağıtmadan önce düzenlileştirilmiş SSL'yi tamamen denetimli bir taban çizgisine karşı karşılaştırmak iyi bir uygulamadır.
Kaynaklar
- Belkin, M., Niyogi, P., & Sindhwani, V. (2006). Manifold regularization: A geometric framework for learning from labeled and unlabeled examples. Journal of Machine Learning Research, 7, 2399–2434. link ↗
- Chapelle, O., Scholkopf, B., & Zien, A. (Eds.). (2006). Semi-Supervised Learning. MIT Press. ISBN: 978-0-262-03358-9
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Regularized Semi-Supervised Learning (Manifold Regularization and Graph-Based SSL). ScholarGate. https://scholargate.app/tr/machine-learning/regularized-semi-supervised-learning
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Gauss SüreciMakine öğrenmesi↔ karşılaştır
- Etiket YayılımıMakine öğrenmesi↔ karşılaştır
- Düzenlileştirilmiş Lojistik RegresyonMakine öğrenmesi↔ karşılaştır
- Regularized Random ForestMakine öğrenmesi↔ karşılaştır
- Öz-denetimli ÖğrenmeMakine öğrenmesi↔ karşılaştır
- Yarı denetimli ÖğrenmeMakine öğrenmesi↔ karşılaştır