Bayesçi k-En Yakın Komşu
Bayesian k-Nearest Neighbors Classifier · Ayrıca şöyle bilinir: Bayesian KNN, BKNN, probabilistic k-nearest neighbors, Bayesian nearest-neighbor classifier
Bayesçi k-En Yakın Komşu (Bayesian KNN), komşu boyutu k üzerine bir önsel dağılım yerleştirerek ve komşulardan elde edilen olabilirlik kanıtlarını bu önsel ile birleştirerek kalibre edilmiş sonsal sınıf olasılıkları üreten klasik KNN algoritmasını genişletir. KNN'nin sezgisel örnek tabanlı mantığını korurken, tahminler üzerinde prensipli belirsizlik ölçümü ekler.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Kalibre edilmiş olasılık tahminleri gerektiğinde — yalnızca kesin etiketler değil — parametrik olmayan, örnek tabanlı bir sınıflandırıcıdan, özellikle karar sınırı düzensiz veya yerel olarak değişiyorsa ve bireysel tahminlerin yorumlanabilirliği önemliyse Bayesçi KNN'yi kullanın. Sürekli veya karışık özelliklere sahip küçük-orta ölçekli veri kümeleri (birkaç yüz ila on binlerce gözlem) için uygundur. K'yı çapraz doğrulama yoluyla güvenilir bir şekilde seçmek zorsa veya paydaşlar tarafından belirsizlik ölçümü gerekiyorsa standart KNN'ye tercih edin. En yakın komşu aramasının aşırı derecede yavaş olduğu büyük veri kümeleri için, mesafe metriklerinin anlamını yitirdiği çok yüksek boyutlu seyrek veriler için veya basit bir lojistik regresyonun yeterli olduğu durumlarda bundan kaçının.
Güçlü yönler & sınırlılıklar
- Kalibre edilmiş sonsal sınıf olasılıkları üretir, prensipli belirsizlik ölçümünü sağlar.
- Önsel yoluyla komşuluk boyutları üzerinden marjinalleştirerek k'yı elle ayarlama ihtiyacını ortadan kaldırır.
- Parametrik olmayan: veri üretim süreci hakkında herhangi bir dağılımsal varsayım yapmaz.
- Tahminler yerel olarak açıklanabilir — katkıda bulunan komşular doğrudan incelenebilir.
- Çok sınıflı problemleri, bir-karşı-diğer yeniden formülasyonu olmadan doğal olarak ele alır.
- Tahmin süresi sorgu başına O(n)'dir çünkü bir dizin yapısı kullanılmadıkça tüm eğitim mesafeleri hesaplanmalıdır.
- Yüksek boyutlu uzaylarda boyutluluk laneti nedeniyle performans keskin bir şekilde düşer.
- Mesafe metriği seçimine duyarlılık; ilgisiz özellikler komşu getirmeyi bozabilir.
- Bayesçi marjinalleştirme k, standart KNN'ye kıyasla hesaplama ve uygulama karmaşıklığı ekler.
SSS
Bayesçi KNN standart KNN'den nasıl farklıdır?
Standart KNN, çapraz doğrulama ile seçilen sabit bir k gerektirir ve kesin bir çoğunluk oyu etiketini çıkarır. Bayesçi KNN, k üzerine bir önsel yerleştirir, komşulardan bir olabilirlik hesaplar ve sınıf etiketleri üzerinde tam bir sonsal dağılım döndürür — kalibre edilmiş olasılıklar sağlar ve k'yı önceden seçme ihtiyacını ortadan kaldırır.
Bayesçi KNN çok fazla veri gerektirir mi?
Küçük-orta ölçekli veri kümelerinde (yüzlerce ila on binlerce satır) makul ölçüde iyi çalışır. Ancak, tüm KNN varyantları gibi, tahmin kalitesi güvenilir bir yerel tahmin oluşturmak için yeterli komşuya sahip olmaya bağlıdır; çok küçük veri kümeleri gürültülü sonsallık riski taşır. Çok büyük veri kümelerinde O(n) arama süresi darboğaz haline gelir.
Hangi mesafe metriğini kullanmalıyım?
Öklid mesafesi, aynı ölçekteki sürekli özellikler için varsayılan değerdir. Karışık veri türleri için Gower mesafesi yaygın bir seçimdir. Mesafe hesaplamadan önce her zaman sürekli özellikleri standartlaştırın; aksi takdirde daha büyük sayısal aralıklara sahip özellikler komşu getirmeyi baskın hale getirecektir.
Neden nai̇f bayes veya lojisti̇k regresyon yerine tercih etmeliyim?
Veriler yüksek boyutlu, seyrek veya çok büyükse, nai̇f bayes veya lojisti̇k regresyon çok daha hızlı eğitilir ve tahmin yapar. Bayesçi KNN, yerel doğrusal olmayanlığın önemli olduğu ve kalibre edilmiş olasılıkların temel bir gereksinim olduğu düşük-orta boyutlar için ayrılmıştır.
Çıktı olasılığı gerçekten kalibre edilmiş mi?
Bayesçi KNN, standart KNN'nin frekans oranından daha iyi kalibre edilmiş olasılıklar üretir, ancak mükemmel kalibrasyon garanti edilmez — özellikle yüksek boyutlarda veya küçük örneklemlerde. Kalibrasyonu ayrılmış bir küme üzerinde bir güvenilirlik diyagramı ile doğrulamak iyi bir uygulamadır.
Kaynaklar
- Holmes, C. C., & Adams, N. M. (2002). A probabilistic nearest neighbour method for statistical pattern recognition. Journal of the Royal Statistical Society: Series B (Statistical Methodology), 64(2), 295–306. DOI: 10.1111/1467-9868.00338 ↗
- K-nearest neighbors algorithm. Wikipedia. link ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). Bayesian k-Nearest Neighbors Classifier. ScholarGate. https://scholargate.app/tr/machine-learning/bayesian-k-nearest-neighbors
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Lojistik RegresyonAraştırma istatistiği↔ karşılaştır
- Naive BayesMakine öğrenmesi↔ karşılaştır
- Rastgele OrmanMakine öğrenmesi↔ karşılaştır