Öz-denetimli Az Örnekli Öğrenme
Self-supervised Few-shot Learning (SSL-FSL) · Ayrıca şöyle bilinir: SSL-FSL, self-supervised meta-learning, unsupervised few-shot learning, self-supervised prototypical learning
Öz-denetimli Az Örnekli Öğrenme (SSL-FSL), büyük etiketsiz veri kümeleri üzerinde öz-denetimli ön eğitim ile az örnekli meta-öğrenmeyi birleştirerek, bir modelin yalnızca birkaç etiketli örnekten yeni kategorileri tanımasını sağlar. Pahalı etiketleme olmadan zengin, aktarılabilir temsiller öğrenerek, SSL-FSL denetimli az örnekli yöntemlerin temel darboğazını ele alır: ölçekte etiketli destek verisine olan ihtiyaç.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Etiketli verinin son derece kıt olduğu (sınıf başına 5-20 örnek) ancak etiketsiz verinin bol olduğu, örneğin tıbbi görüntüleme, nadir olay tespiti veya yeni kategori tanıma gibi durumlarda SSL-FSL kullanın. Etiketleme maliyetinin yasaklayıcı olduğu durumlarda idealdir. Bol miktarda etiketli veriniz olduğunda SSL-FSL'den kaçının — standart denetimli öğrenme ondan daha iyi performans gösterecektir. Ayrıca, büyük ölçekli ön eğitim için hesaplama kaynaklarının mevcut olmadığı veya etiketsiz havuzun hedef görevle karşılaştırıldığında küçük, alan dışı veya düşük kaliteli olduğu durumlarda da kaçının.
Güçlü yönler & sınırlılıklar
- Bol miktarda etiketsiz veriden yararlanır, pahalı etiketli örneklere olan bağımlılığı büyük ölçüde azaltır.
- Öz-denetimli ön eğitim, yeni kategorilere iyi aktarılan zengin, genelleştirilebilir temsiller üretir.
- Kontrastif ve üretken SSL çerçeveleriyle (SimCLR, BYOL, MAE) doğal olarak uyumludur, tak-çalıştır omurga yükseltmelerine olanak tanır.
- İyi düzenlenmiş önceden eğitilmiş bir durumdan başlatılarak az örnekli rejimlerde aşırı uyum riskini azaltır.
- Modlar arasında uygulanabilir — görüntüler, metin, ses ve grafikler — etiketsiz verinin bol olduğu her yerde.
- Daha fazla kazanç için meta-öğrenme algoritmalarıyla (Prototip Ağları, MAML) birleştirilebilir.
- Büyük etiketsiz veri kümeleri üzerinde ön eğitim hesaplama açısından pahalı ve bellek yoğundur.
- Performans, etiketsiz ön eğitim alanı hedef az örnekli alanla eşleşmediğinde düşer.
- Görsel olmayan modlar için etkili SSL yardımcı görevleri seçmek önemsiz değildir ve göreve özgüdür.
- Değerlendirme, bölüm oluşturma protokolüne duyarlıdır; sonuçların makaleler arasında karşılaştırılması zor olabilir.
- Yorumlanabilir katsayılar sunmaz; bireysel tahminleri açıklamak ek sonradan araçlar gerektirir.
SSS
SSL-FSL standart aktarım öğrenmesinden nasıl farklıdır?
Standart aktarım öğrenmesi, önceden eğitilmiş bir modeli (tipik olarak daha büyük) etiketli bir hedef veri kümesi üzerinde ince ayarlar. SSL-FSL, test zamanında sınıf başına yalnızca az sayıda etiketli örneğin bulunduğu senaryoları özel olarak hedefler ve bu kısıtlamayı simüle eden bölümlü protokolleri açıkça eğitir veya değerlendirir.
Az örnekli öğrenme için hangi öz-denetimli hedefler en iyi şekilde çalışır?
Kontrastif hedefler (SimCLR, MoCo, BYOL) genellikle görsel az örnekli görevler için en güçlü aktarılabilir temsilleri üretir. Dil için, maskeli dil modelleme (BERT tarzı) omurgaları standarttır. En iyi seçim, mod ve mevcut hesaplama gücüne bağlıdır.
Öz-denetimli ön eğitimin üzerine bir meta-öğrenme algoritmasına ihtiyacım var mı?
Her zaman değil. Birçok çalışma, basit bir en yakın merkez sınıflandırıcısına sahip güçlü bir öz-denetimli omurganın gelişmiş meta-öğrenicileri eşleştirebileceğini veya aşabileceğini göstermektedir. Meta-öğrenme, temel ve yeni sınıflar arasındaki dağılım kayması büyük olduğunda değer katar.
SSL-FSL deneyleri için sonuçları nasıl raporlamalıyım?
Omurga mimarisini, SSL hedefini, ön eğitim veri kümesini, bölüm yapılandırmasını (N-yollu K-örnekli), test bölümlerinin sayısını ve %95 güven aralıklarını bildirin. Öz-denetimin katkısını izole etmek için standart denetimli önceden eğitilmiş bir temele karşı karşılaştırma yapmak esastır.
Hiç etiketsiz verim olmadığında SSL-FSL uygun mu?
Hayır. Hedef alandan veya ilgili bir alandan etiketsiz veri mevcut değilse, SSL ön eğitim adımı herhangi bir fayda sağlamaz. Bu durumda, büyük bir harici veri kümesi (örneğin, ImageNet) üzerinde standart denetimli önceden eğitilmiş bir omurgaya sahip standart az örnekli yöntemler daha pratik bir başlangıç noktasıdır.
Kaynaklar
- Gidaris, S., Bursuc, A., Komodakis, N., Perez, P., & Cord, M. (2019). Boosting Few-Shot Visual Learning with Self-Supervision. Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV), 8059–8068. DOI: 10.1109/ICCV.2019.00815 ↗
- Su, J.-C., Maji, S., & Hariharan, B. (2020). When Does Self-Supervision Improve Few-Shot Learning? European Conference on Computer Vision (ECCV), Lecture Notes in Computer Science, vol 12371, 645–660. DOI: 10.1007/978-3-030-58571-6_38 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Self-supervised Few-shot Learning (SSL-FSL). ScholarGate. https://scholargate.app/tr/machine-learning/self-supervised-few-shot-learning
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Siamese Sinir AğıDerin öğrenme↔ karşılaştır
- Transfer LearningMakine öğrenmesi↔ karşılaştır