Aktif Öğrenme K-En Yakın Komşular
Active Learning with K-Nearest Neighbors Classifier · Ayrıca şöyle bilinir: AL-KNN, active KNN, query-based nearest neighbor learning, uncertainty-sampling KNN
K-en yakın komşularla aktif öğrenme, KNN'in örnek tabanlı tahminini, açıklama için en bilgilendirici etiketsiz örnekleri seçen yinelemeli bir sorgu stratejisiyle birleştirir. Model, yalnızca komşuluk oylama marjlarının en dar olduğu örnekler için etiket talep eder ve tablo verilerinde tamamen denetimli KNN'den çok daha az etiketli örnekle rekabetçi doğruluk elde eder.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Etiketli veriler az veya elde edilmesi maliyetli olduğunda, etiketsiz örnekler bol olduğunda, özellik alanı orta boyutlu olduğunda ve karar sınırının yerel olarak pürüzsüz olması beklendiğinde KNN ile aktif öğrenme kullanın. Özellikle etiketlemenin rasyonel olarak yapılması gereken erken aşama sınıflandırma projelerinde pratiktir. Veri kümesi çok yüksek boyutlu olduğunda (KNN mesafe metrikleri yüksek boyutlarda bozulur, boyutluluk laneti), etiketli havuz zaten büyük olduğunda (pasif KNN yeterlidir), ölçekte düşük gecikmeli tahmin gerektiğinde (KNN tahmini etiketli kümede O(n)dir) veya etiket bütçesi o kadar küçük olduğunda ki komşuluk tahminleri güvenilmez olduğunda bundan kaçının.
Güçlü yönler & sınırlılıklar
- Parametrik olmayan ve varsayımsız: veriler hakkında dağılımsal varsayımlar gerekmez.
- Belirsizlik tahmini doğal ve yorumlanabilirdir — en yakın komşular arasındaki oy bölünmesini doğrudan yansıtır.
- Tembel öğrenme, yineleme başına yeniden eğitim maliyeti olmaması anlamına gelir; genişletilmiş etiketli küme güncellenmiş modeldir.
- Karar sınırlarına yakın etiketleri yoğunlaştırmada etkilidir, az sayıda açıklama ile iyi sınır çözünürlüğü sağlar.
- Hem sürekli hem de ikili özelliklere sahip orta boyutlu tablo verilerinde iyi çalışır.
- Tahmin maliyeti etiketli küme boyutuyla doğrusal olarak ölçeklenir, bu da havuz yinelemeler boyunca büyüdükçe çıkarımı yavaşlatır.
- Boyutluluk laneti nedeniyle mesafe tabanlı belirsizlik yüksek boyutlu uzaylarda keskin bir şekilde bozulur.
- KNN'in doğruluk tavanı topluluk yöntemlerinden daha düşüktür; aktif strateji temel öğrenicinin sınırlı kapasitesini telafi edemez.
- k seçimine ve mesafe metriğine duyarlıdır; kötü varsayılanlar güvenilmez belirsizlik tahminlerine yol açar.
- Tüm etiketli noktalar bellekte saklanır; büyük bütçeler yüksek bellek tüketimine neden olur.
SSS
Neden aktif öğrenme tabanı olarak daha güçlü bir model yerine KNN kullanılmalı?
KNN'in oy bölünmesi belirsizliği hesaplaması ucuzdur ve yeniden eğitim gerektirmez — yeni bir etiketli nokta eklemek modeli hemen günceller. Bu, yineleme başına hesaplama maliyetinin önemli olduğu durumlarda cazip hale getirir. Sabit bir etiket bütçesinde maksimum doğruluk için, rastgele orman veya gradyan artırma gibi topluluk temel öğrenicileri genellikle KNN'den daha iyi performans gösterir.
Aktif öğrenme için k'yi nasıl seçerim?
Yaygın bir başlangıç aralığı k = 5 ila 15'tir. Daha küçük k değerleri daha gürültülü belirsizlik tahminleri üretir; daha büyük k değerleri sınırı yumuşatır ancak ince taneli belirsizliği kaçırabilir. Başlangıç etiketli çekirdek küme üzerinde k'yi çapraz doğrulayın ve etiketli havuz büyüdükçe ayarlayın.
Özellik ölçeklendirme önemli mi?
Evet, kritik derecede. Özellikler normalleştirilmezse KNN mesafesi yüksek büyüklükteki özellikler tarafından domine edilir. Mesafeleri ve belirsizlik puanlarını hesaplamadan önce her zaman min-max ölçeklendirme veya z-skoru standardizasyonu uygulayın.
Kaç tane başlangıç etiketli örnek gerekiyor?
Minimumda, KNN'in tüm sınıflar için komşuluklar oluşturabilmesi için sınıf başına bir veya iki etiketli örnek gereklidir. Pratikte, 5-20 etiketli örnek daha kararlı başlangıç belirsizlik tahminleri sağlar; daha azı, bilgilendirici olmayan erken sorgular üreten dejenere komşuluklar riskini taşır.
Aktif döngüyü ne zaman durdurmalıyım?
Önceden bir etiketleme bütçesi belirleyin veya doğrulama doğruluğunu izleyin ve yeni etiket başına iyileşme anlamlı bir eşiğin altına düştüğünde durun. Test kümesini asla durdurma sinyali olarak kullanmayın, çünkü bu, sorgu sürecine bilgi sızdırır.
Kaynaklar
- Settles, B. (2010). Active Learning Literature Survey. Computer Sciences Technical Report 1648, University of Wisconsin-Madison. link ↗
- Zhu, X., Lafferty, J., & Ghahramani, Z. (2003). Combining active learning and semi-supervised learning using Gaussian fields and harmonic functions. Proceedings of the ICML 2003 Workshop on the Continuum from Labeled to Unlabeled Data, 58–65. link ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Active Learning with K-Nearest Neighbors Classifier. ScholarGate. https://scholargate.app/tr/machine-learning/active-learning-k-nearest-neighbors
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Aktif ÖğrenmeMakine öğrenmesi↔ karşılaştır
- Aktif Öğrenme Karar AğacıMakine öğrenmesi↔ karşılaştır
- Lojistik Regresyon ile Aktif ÖğrenmeMakine öğrenmesi↔ karşılaştır
- Yarı denetimli En Yakın KomşularMakine öğrenmesi↔ karşılaştır