Yarı denetimli Değişimsel Otomatik Kodlayıcı
Semi-supervised Variational Autoencoder (M1/M2 Generative Model) · Ayrıca şöyle bilinir: Semi-supervised VAE, M2 model, VAE with label propagation, deep generative semi-supervised model
Yarı denetimli VAE (M2 modeli), hem etiketli hem de etiketsiz örneklerden yararlanarak, girdilerin gizli bir temsilini ve bir sınıflandırıcıyı ortaklaşa öğrenen derin bir üretken yöntemdir. Kingma ve ark. tarafından 2014 yılında tanıtılan bu model, üretken modelin etiketsiz gözlemleri açıklamasına izin vererek, etiketlerin kıt olduğu durumlarda bile doğru sınıflandırma sağlar.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Büyük bir etiketsiz örnek havuzunuz olduğunda ancak yalnızca küçük bir kesir için etiketleriniz olduğunda ve nihai hedef sınıflandırma veya yapısal tahmin olduğunda yarı denetimli VAE'yi kullanın. Özellikle tıbbi görüntüleme, genomik veya özel metin derlemleri gibi etiketlemenin pahalı olduğu alanlarda etkilidir. Etiketli kesrin verinin yaklaşık %10-20'sinden az olduğu durumlarda saf denetimli bir modele tercih edin ve herhangi bir etiket mevcut olduğunda denetimsiz bir VAE'ye tercih edin. Bol miktarda etiketli veri mevcut olduğunda tam denetimli modeller için doğrudan bir değiştirme olarak kullanmayın, çünkü bu rejimde ek karmaşıklık nadiren fayda sağlar. Ayrıca, hesaplama bütçesi çok kısıtlıysa veya veri dağılımı önceden eğitilmiş gömmeler üzerindeki lojistik regresyon gibi daha basit modeller tarafından iyi yakalanıyorsa bundan kaçının.
Güçlü yönler & sınırlılıklar
- Öğrenilen temsili düzenlemek ve zenginleştirmek için etiketsiz verilerden verimli bir şekilde yararlanır.
- Üretken ve ayrımcı hedefleri tutarlı bir olasılıksal çerçevede ortaklaşa eğitir.
- Sınıflandırmaya ek olarak enterpolasyon, üretim ve anomali tespitini destekleyen ayrıştırılmış bir gizli uzay üretir.
- Etiket verimliliği: saf denetimli taban çizgilerine kıyasla çok düşük etiket oranlarında rekabetçi sınıflandırma doğruluğu.
- Etiketler ve gizli kodlar üzerindeki değişimsel sonsal dağılım aracılığıyla ilkeli belirsizlik nicelemesi.
- Eğitim, standart bir sınıflandırıcıdan daha karmaşıktır: iki hedef (ELBO ve çapraz entropi) alfa hiperparametresi aracılığıyla dengelenmelidir.
- Sonsal çökme veya gizli uzayın yetersiz kullanımıdan kaçınmak için KL sapması ağırlığı (beta) ve denetimli ağırlık (alfa) dikkatli ayar gerektirir.
- Etiketsiz noktaların tüm sınıf değerleri üzerinden marjinalleştirilmesini gerektirdiği için hesaplama maliyeti ayrık sınıfların sayısıyla doğru orantılıdır.
- Daha basit yarı denetimli taban çizgilerine göre performans artışları, modern kendi kendine denetimli ön eğitim yaklaşımları (kontrastif öğrenme veya maskelenmiş otomatik kodlayıcılar gibi) ile azalabilir.
SSS
Yarı denetimli VAE, düz VAE'den nasıl farklıdır?
Düz bir VAE tamamen üretkendir ve açık bir sınıflandırıcısı yoktur. Yarı denetimli VAE, sınıf etiketi y için bir tanıma ağı ekler, etiketsiz etiketleri gizli değişkenler olarak ele alır ve hedefe denetimli bir çapraz entropi terimi dahil ederek onu hem üretken hem de ayrımcı hale getirir.
Alfa hiperparametresi nedir?
Alfa, denetimli sınıflandırma kaybını denetimsiz ELBO'ya göre ölçekler. Daha yüksek bir alfa, modelin etiketli örneklerde sınıflandırma doğruluğunu önceliklendirmesini sağlar. Orijinal makale, alfa'yı toplam veri kümesi boyutunun etiketli örnek sayısına bölünmesiyle orantılı olarak ayarlamayı önermektedir.
Etiketli kesir çok küçükse, örneğin %1'in altındaysa ne olur?
Çok düşük etiket oranlarında yöntem hala üretken sinyalden fayda sağlar, ancak performans ön bilginin kalitesine ve hedefin dengesine duyarlıdır. Pratikte, yarı denetimli VAE'yi veri artırma veya kontrastif ön eğitim ile birleştirmek genellikle sonuçları daha da iyileştirir.
Yöntem, tam çözünürlüklü görüntüler gibi yüksek boyutlu girdileri işleyebilir mi?
Evet, ancak kodlayıcı ve kod çözücü görüntü verileri için evrişimsel olmalıdır. Sınıf etiketleri üzerinden marjinalleştirmenin hesaplama maliyeti, sınıfların sayısıyla doğrusal olarak artar, bu nedenle çok büyük etiket alanları (yüzlerce sınıf) eğitim süresini fark edilir şekilde artırır.
Sonsal çökme ciddi bir endişe midir?
Kodlayıcının girdiyi görmezden geldiği ve KL teriminin sıfırlandığı sonsal çökme, VAE'ler için bilinen bir hata modudur. KL azaltmayı (KL ağırlığını sıfırdan başlatma), serbest bitler kullanma veya daha ifade edici bir sonsal dağılım benimseme bunu hafifletebilir.
Kaynaklar
- Kingma, D. P., Mohamed, S., Rezende, D. J., & Wierstra, D. (2014). Semi-supervised learning with deep generative models. Advances in Neural Information Processing Systems (NeurIPS), 27, 3581–3589. link ↗
- Kingma, D. P., & Welling, M. (2014). Auto-Encoding Variational Bayes. International Conference on Learning Representations (ICLR 2014). link ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Semi-supervised Variational Autoencoder (M1/M2 Generative Model). ScholarGate. https://scholargate.app/tr/deep-learning/semi-supervised-variational-autoencoder
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Üretken Çekişmeli AğDerin öğrenme↔ karşılaştır
- Öz-denetimli Değişimsel Otomatik KodlayıcıDerin öğrenme↔ karşılaştır
- Yarı denetimli TransformerDerin öğrenme↔ karşılaştır
- Varyasyonel Otomatik Kodlayıcı ile Transfer ÖğrenmesiDerin öğrenme↔ karşılaştır
- Varyasyonel Otomatik KodlayıcıDerin öğrenme↔ karşılaştır