Öz-denetimli K-en yakın komşular
Self-supervised K-Nearest Neighbors (SSL-kNN) · Ayrıca şöyle bilinir: SSL-kNN, self-supervised kNN classifier, kNN evaluation probe, nearest-neighbor self-supervised classifier
Öz-denetimli K-en yakın komşular (SSL-kNN), etiketsiz gösterim öğrenimini parametrik olmayan bir k-NN sınıflandırıcı ile birleştirir. Semantik olarak benzer örneklerin gömme uzayında bir araya toplanması için, bir sinir ağı kodlayıcısı ilk olarak karşılaştırmalı veya maskeli tahmin gibi öz-denetimli bir amaç aracılığıyla eğitilir. Daha sonra bu gömmeler üzerinde basit bir k-NN araması sınıf etiketleri atar ve hem hafif bir yoklama hem de pratik bir sınıflandırıcı görevi görür.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Etiketli verilerin az olduğu veya hiç bulunmadığı ve ön eğitim için geniş bir etiketsiz veri havuzunun mevcut olduğu durumlarda SSL-kNN kullanın. Öz-denetimli görsel gösterimler için standart değerlendirme protokolüdür ve doğrusal bir başlığın ince ayarı çok maliyetli olduğunda veya yorumdan bağımsız, parametrik olmayan bir sınıflandırıcı tercih edildiğinde pratik bir seçimdir. Ayrıca, etiket kümesinin zamanla büyüyebileceği akış veya açık küme senaryolarına da uygundur, çünkü yeni sınıflar eklemek yalnızca destek kümesine yeni gömmeler eklemeyi gerektirir. Etiketli verilerin bol olduğu durumlarda bundan kaçının — tam denetimli ince ayar onu geride bırakacaktır. Ham özellik uzayı zaten kompakt ve iyi yapılandırılmış olduğunda uygulamayın, çünkü standart denetimli k-NN daha düşük maliyetle yeterli olabilir. Bellek ve geri çağırma maliyetleri destek kümesinin boyutuyla ölçeklenir.
Güçlü yönler & sınırlılıklar
- Kodlayıcıyı eğitmek için etiketli veri gerektirmez; çıkarım sırasında yalnızca küçük bir etiketli destek kümesi gereklidir.
- Öz-denetimli gösterimlerin kalitesi için şeffaf, varsayımsız bir değerlendirme metriği olarak hizmet eder.
- Yeniden eğitim gerektirmeden yeni sınıflara kolayca genişler — sadece destek kümesine yeni etiketli gömmeler ekleyin.
- Eğitilebilir sınıflandırıcı parametresi yoktur, bu nedenle küçük bir etiketli küme üzerinde aşırı uyum riski yoktur.
- Son derece modüler: herhangi bir öz-denetimli omurga, aşağı akış k-NN mantığını değiştirmeden değiştirilebilir.
- Sınıflandırma kalitesi, öz-denetimli ön eğitimin kalitesine ve kodlayıcı mimarisine büyük ölçüde bağlıdır.
- Yaklaşık en yakın komşu indekslemesi olmadan destek kümesi milyonlarca örneğe ulaştığında k-NN geri çağırma yavaş ve bellek yoğun hale gelir.
- Optimal k veri kümesine bağlıdır ve ayarlama gerektirir; çok küçük bir k gürültülüdür, çok büyük bir k karar sınırlarını bulanıklaştırır.
- Ön eğitim verileri ile hedef alan arasında önemli bir alan kayması olduğunda, gömme kalitesi düşer ve k-NN doğruluğu keskin bir şekilde azalır.
SSS
SSL-kNN, standart denetimli kNN'den nasıl farklıdır?
Standart kNN, el yapımı veya göreve özgü özellikler üzerinde çalışır ve destek kümesini oluşturmak için etiketli eğitim örnekleri gerektirir. SSL-kNN, etiketsiz veriler üzerinde öz-denetimli ön eğitim yoluyla önce genel amaçlı bir gömme öğrenir; k-NN adımı daha sonra bu öğrenilmiş uzayda uygulanır, bu da tipik olarak ham özelliklerden çok daha iyi gösterimler üretir.
Hangi k değerini kullanmalıyım?
Yaygın kıyaslamalar k=20 veya k=200 kullanır. Daha büyük k daha kararlıdır ancak ince taneli görevlerde sınırları bulanıklaştırır. k'yi test kümesi yerine bir doğrulama bölümünde ayarlayın. Çok küçük destek kümeleri için k=5 veya k=10 daha uygundur.
SSL-kNN sınıflandırma yerine regresyon için kullanılabilir mi?
Evet. Çoğunluk oyu toplamasını, k komşunun sürekli hedef değerlerinin ortalaması (veya ağırlıklı ortalaması) ile değiştirin. Öz-denetimli kodlayıcı hala gömmeyi sağlar; sadece toplama adımı değişir.
Destek kümesi için ne kadar etiketli veri gereklidir?
Kodlayıcı güçlüyse sınıf başına bir etiketli örnek kadar az (1-shot) işe yarayabilir, ancak doğruluk daha fazlasıyla artar. Kodlayıcı eğitimi kendisi hiçbir etiket gerektirmez.
Yaklaşık en yakın komşu (ANN) geri çağırma kabul edilebilir mi?
Evet ve büyük destek kümeleri için gereklidir. FAISS, ScaNN veya HNSWlib gibi kütüphaneler, tam k-NN'ye kıyasla ihmal edilebilir doğruluk kaybıyla alt doğrusal geri çağırma sağlar.
Kaynaklar
- Chen, T., Kornblith, S., Norouzi, M., & Hinton, G. (2020). A simple framework for contrastive learning of visual representations. In Proceedings of the 37th International Conference on Machine Learning (ICML), PMLR 119, 1597–1607. link ↗
- Wu, Z., Xiong, Y., Yu, S. X., & Lin, D. (2018). Unsupervised feature learning via non-parametric instance discrimination. In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 3733–3742. DOI: 10.1109/CVPR.2018.00393 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Self-supervised K-Nearest Neighbors (SSL-kNN). ScholarGate. https://scholargate.app/tr/machine-learning/self-supervised-k-nearest-neighbors
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Ölçüm ÖğrenmesiMakine öğrenmesi↔ karşılaştır
- Öz-denetimli ÖğrenmeMakine öğrenmesi↔ karşılaştır
- Yarı denetimli En Yakın KomşularMakine öğrenmesi↔ karşılaştır
- Transfer LearningMakine öğrenmesi↔ karşılaştır