Ensemble Few-Shot Learning (Toplu Az Örnekli Öğrenme)
Ensemble Methods for Few-Shot Learning · Ayrıca şöyle bilinir: ensemble few-shot classification, multi-model few-shot learning, few-shot ensemble, cooperative few-shot ensemble
Ensemble Few-Shot Learning (Toplu Az Örnekli Öğrenme), yeni sınıfları yalnızca bir ila birkaç etiketli örnekten sınıflandırmak üzere birden çok az örnekli modeli — prototip ağlar veya gömme öğreniciler gibi — birleştirir. Temel öğreniciler arasındaki çeşitliliği zorlayarak ve tahminlerini toplayarak, topluluk, özellikle şiddetli etiket kıtlığı durumunda, doğruluk ve sağlamlık açısından herhangi bir tekil az örnekli modeli tutarlı bir şekilde geride bırakır.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Etiketli verinin son derece kıt olduğu (sınıf başına 1–20 örnek), tekil bir az örnekli modelin doğruluğunun çalıştırmalar arasında çok değişken olduğu veya dağıtımın tekil bir modelin sağlayabileceğinden daha yüksek güven ve sağlamlık gerektirdiği durumlarda topluluk az örnekli öğrenmeyi kullanın. Özellikle nadir kategorilerin görüntü tanıma, sınırlı etiketlemeli tıbbi görüntüleme ve yeni niyetlere sahip doğal dil görevleri için uygundur. Hesaplama bütçesinin kısıtlı olduğu durumlarda (M model M katı çıkarım hesaplaması gerektirir), az örnekli görev dağılımının meta-eğitim ve test arasında dramatik bir şekilde kaydığı durumlarda (alan farkı alan uyarlamalı meta-öğrenme ile daha iyi ele alınır) veya bireysel tahminlerin yorumlanabilirliğinin gerekli olduğu durumlarda kullanmayın.
Güçlü yönler & sınırlılıklar
- Tekil bir az örnekli modelle karşılaştırıldığında tahmin varyansını tutarlı bir şekilde azaltır, ek etiketli veri gerektirmez.
- Metrik tabanlı veya optimizasyon tabanlı herhangi bir az örnekli omurganın üzerinde çalışır, bu da onu modüler bir iyileştirme haline getirir.
- Olasılıkların yumuşak toplama işlemi, aşağı akış eşikleme için faydalı olan iyi kalibre edilmiş güven puanları üretir.
- Eğitim sırasında çeşitlilik zorlaması, destek kümesi gürültüsüne aşırı uyumu azaltan örtük bir düzenleyici görevi görür.
- Tekil bir modelin çökmesine neden olan şanslı rastgele başlangıçlara karşı sağlamdır.
- Çıkarım maliyeti, temel öğrenici sayısıyla doğrusal olarak ölçeklenir, bu da kenar cihazlarda yasaklayıcı olabilir.
- Çeşitli temel öğrenicilerin 5–10'undan sonra kazançlar hızla azalır; gerçek çeşitliliği sürdürmek önemsiz değildir.
- Standart denetimli eğitimden daha karmaşık dikkatli epizodik meta-eğitim altyapısı gerektirir.
- Meta-eğitim ve dağıtım arasındaki alan kaymasını ele almaz; topluluk varyans azaltma, alan adaptasyonunun yerine geçmez.
SSS
Topluluk kaç temel öğreniciye sahip olmalıdır?
Ampirik olarak, kazançlar yaklaşık 5–10 çeşitli öğrenicide doygunluğa ulaşır. Bunun ötesinde, marjinal doğruluk iyileştirmesi ek çıkarım maliyetini nadiren haklı çıkarır. 5 ile başlayın ve yalnızca test bölümleri üzerindeki varyans yüksek kalırsa artırın.
Topluluk az örnekli öğrenme, tekil bir modelden daha fazla etiketli veri gerektirir mi?
Hayır. Topluluk, tekil bir modelle aynı meta-eğitim kümesini kullanır. Çeşitlilik, ek etiketlerden değil, farklı başlangıçlardan, artırma politikalarından veya mimari varyantlarından gelir.
Çeşitlilik nasıl ölçülür ve zorlanır?
Çeşitlilik tipik olarak model arasındaki anlaşmazlık oranı olarak sorgu örnekleri üzerinde ölçülür. Farklı rastgele tohumlar aracılığıyla örtük olarak veya modellerin yanlış tahminler üzerinde anlaşmalarını cezalandıran bir işbirliği kaybı yoluyla açıkça zorlanabilir, Dvornik ve diğerleri (2019) tarafından önerildiği gibi.
Yumuşak ortalama alma her zaman sert çoğunluk oylamasından daha mı iyidir?
Uygulamada evet — yumuşak ortalama alma kalibrasyonu korur ve neredeyse eşit durumları daha zarif bir şekilde ele alır. Sert oylama yalnızca temel öğreniciler ikili çıktılar ürettiğinde ve olasılık tahminleri mevcut olmadığında düşünülmelidir.
Topluluk az örnekli öğrenme, veri artırma veya kendi kendine denetimli ön eğitim ile birleştirilebilir mi?
Evet, ve bu yaygın bir uygulamadır. Etiketsiz veriler üzerinde kendi kendine denetimli ön eğitim (örneğin, SimCLR, DINO), güçlü özellik temsilleri üretir ve bu tür temsillerin üzerinde çalışan bir topluluk, yalnızca denetimli omurgalara dayanan toplulukları tutarlı bir şekilde geride bırakır.
Kaynaklar
- Dvornik, N., Schmid, C., & Mairal, J. (2019). Diversity with Cooperation: Ensemble Methods for Few-Shot Classification. In Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV), pp. 3716–3725. link ↗
- Wang, Y., Yao, Q., Kwok, J. T., & Ni, L. M. (2020). Generalizing from a Few Examples: A Survey on Few-Shot Learning. ACM Computing Surveys, 53(3), 1–34. DOI: 10.1145/3386252 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Ensemble Methods for Few-Shot Learning. ScholarGate. https://scholargate.app/tr/machine-learning/ensemble-few-shot-learning
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- YükseltmeMakine öğrenmesi↔ karşılaştır
- Az sayıda örnekle öğrenmeMakine öğrenmesi↔ karşılaştır
- Yarı Denetimli Az Örnekle ÖğrenmeMakine öğrenmesi↔ karşılaştır
- Transfer LearningMakine öğrenmesi↔ karşılaştır
- Oy Birliği TopluluğuMakine öğrenmesi↔ karşılaştır