En Yakın K Komşu
K-Nearest Neighbors (KNN) Classification and Regression · Ayrıca şöyle bilinir: KNN, K-En Yakın Komşu (KNN), nearest neighbor classifier, instance-based learning
Cover ve Hart tarafından 1967'de biçimlendirilen En Yakın K Komşu (KNN), yeni bir gözlemi eğitim verilerindeki en yakın k örneğe bakarak sınıflandıran veya tahmin eden parametrik olmayan, örneğe dayalı bir yöntemdir. Sınıflandırma için bu komşular arasında çoğunluk oyu alır; regresyon için değerlerinin ortalamasını alır.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Sürekli, ikili veya sıralı özelliklere ve en az yaklaşık 30 gözleme sahip tablo verilerinde sınıflandırma veya tahmin için KNN kullanın. Belirli bir dağılım varsaymaz, ancak özelliklerin normalleştirilmesini ve özellik sayısının örnek boyutuna göre küçük kalmasını gerektirir (p'nin n'den çok daha küçük olması tercih edilir). Küçük veya yüksek boyutlu örneklerde boyutluluk laneti hakim olur — komşu mesafeleri anlamsız hale gelir — ve lojistik regresyon veya Naive Bayes gibi parametrik bir model daha iyi bir seçimdir.
Güçlü yönler & sınırlılıklar
- Kavramsal olarak basit ve açıklanması kolay: eğitim zamanı denklemi yok, veri modeldir.
- Parametrik olmayan — temel dağılım hakkında varsayım yapmaz.
- Doğal olarak çok sınıflı problemleri ve karmaşık, doğrusal olmayan karar sınırlarını ele alır.
- Aynı temel fikirle hem sınıflandırma hem de regresyon için çalışır.
- Özellik ölçeklendirmesine duyarlıdır; standardizasyon olmadan, büyük ölçekli özellikler mesafeye hakim olur.
- Yüksek boyutlarda hızla bozulur (boyutluluk laneti), burada komşu mesafeleri anlamını yitirir.
- Her tahmin, büyük verilerde tahmin zamanında yavaş olan tüm eğitim setini taramayı gerektirir.
- En az orta düzeyde bir örneklem boyutu gerektirir; küçük örneklerde en yakın komşu mesafeleri anlamlı değildir.
SSS
k değerini nasıl seçerim?
k, tahmin edilmek yerine çapraz doğrulama ile seçilmelidir — örneğin, bir dizi değer denenerek ve hatanın nerede iyileşmeyi durdurduğunu bulmak için dirsek yöntemi kullanılarak. Küçük bir k veriyi yakından takip eder ancak gürültüye duyarlıdır, daha büyük bir k ise karar sınırını yumuşatır.
Neden özellikleri standartlaştırmalıyım?
KNN, mesafeyi kullanarak 'en yakın' kim olduğuna karar verir, bu da ölçek hassasiyetine sahiptir. Bir özellik diğerlerinden çok daha büyük bir sayısal ölçekteyse, mesafeye hakim olur ve komşu kümesini bozar. Her özelliğin adil katkıda bulunmasını sağlamak için özelliklerin standartlaştırılması (örneğin bir StandardScaler ile) gereklidir.
KNN neden çok sayıda özellikle mücadele eder?
Yüksek boyutlu uzaylarda tüm noktalar kabaca eşit uzaklıkta olur — boyutluluk laneti — bu nedenle 'en yakın' komşular artık anlamlı derecede yakın değildir. KNN performansı hızla düşer ve genellikle Naive Bayes veya lojistik regresyon gibi parametrik bir model tercih edilir. p'nin n'den çok daha küçük tutulması yardımcı olur.
Bir eğitim adımı var mı?
Normal anlamda değil. KNN örneğe dayalıdır (tembel): eğitim verilerini basitçe depolar ve tüm işi tahmin zamanında yapar, bu sırada yeni bir noktanın en yakın komşularını bulmak için mesafeleri hesaplar.
Kaynaklar
- Cover, T.M. & Hart, P.E. (1967). Nearest Neighbor Pattern Classification. IEEE Transactions on Information Theory, 13(1), 21–27. DOI: 10.1109/TIT.1967.1053964 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 1). K-Nearest Neighbors (KNN) Classification and Regression. ScholarGate. https://scholargate.app/tr/machine-learning/knn
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Karar AğacıMakine öğrenmesi↔ karşılaştır
- Lojistik RegresyonAraştırma istatistiği↔ karşılaştır
- Naive BayesMakine öğrenmesi↔ karşılaştır
- Rastgele OrmanMakine öğrenmesi↔ karşılaştır
- Destek Vektör Makinesi (Sınıflandırma)Makine öğrenmesi↔ karşılaştır