Doğrusal Diskriminant Analizi (LDA — Sınıflandırma)
Linear Discriminant Analysis (LDA — Classification) · Ayrıca şöyle bilinir: LDA, Fisher's LDA, Fisher's linear discriminant, discriminant function analysis, Doğrusal Diskriminant Analizi (LDA — Sınıflandırma)
Doğrusal Diskriminant Analizi (LDA), iki veya daha fazla önceden tanımlanmış grubu en iyi şekilde ayıran sürekli öngörücülerin doğrusal kombinasyonunu bulan parametrik, denetimli bir sınıflandırma yöntemidir. Ronald A. Fisher tarafından 1936 tarihli taksonomik ölçümler üzerine yazdığı dönüm noktası niteliğindeki makalesinde tanıtılan bu yöntem, hem sınıflandırıcı hem de boyut indirgeme aracı olarak hizmet eder ve MANOVA'nın sınıflandırma odaklı karşılığı olarak anlaşılabilir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
LDA'yı, sürekli öngörücüler kullanarak gözlemleri iki veya daha fazla önceden tanımlanmış gruba ayırmanız gerektiğinde veya daha ileri analizler için boyut indirgemek istediğinizde kullanın. Dört varsayımın geçerli olması gerekir: (1) her sınıftaki öngörücülerin çok değişkenli normalliği — Mardia veya Henze-Zirkler testi ile kontrol edin; (2) grup içi kovaryans matrislerinin homojenliği — Box M testi ile kontrol edin; (3) gözlemlerin bağımsızlığı; ve (4) matris tersini kararsızlaştıran öngörücüler arasında ciddi çoklu doğrusallığın olmaması. Yaklaşık 50 gözlem minimum önerilir. Eşit kovaryans varsayımı başarısız olduğunda, Karesel Diskriminant Analizi (QDA) doğal alternatiftir; gevşetilmiş dağılımsal varsayımlarla ikili sonuçlar için lojistik regresyon sağlam bir seçenektir.
Güçlü yönler & sınırlılıklar
- Eş zamanlı olarak sınıflandırır ve boyutları indirger, iki boyutta görselleştirilebilen yorumlanabilir kanonik eksenler üretir.
- Genelleştirilmiş özdeğer problemi aracılığıyla kapalı form çözümü ile hesaplama açısından verimli ve analitik olarak çözülebilirdir.
- Normalite ve eşit kovaryans varsayımları tam olarak geçerli olduğunda optimal Bayes sınıflandırıcısıdır.
- Sert sınıflandırmaların yanı sıra olasılıksal sınıf üyelikleri üretir, bu da incelikli belirsizlik raporlamasına olanak tanır.
- Çok değişkenli normalite ve eşit kovaryans varsayımlarının ihlallerine duyarlıdır; bunlar başarısız olduğunda QDA veya parametrik olmayan yöntemler tercih edilmelidir.
- Doğrusal karar sınırları, öngörücü uzayında karmaşık, doğrusal olmayan ayrılıma sahip gruplar için yetersiz olabilir.
- Öngörücüler arasındaki yüksek çoklu doğrusallık, grup içi kovaryans matrisini kötü koşullandırır ve diskriminant ağırlıklarını kararsız hale getirir.
- En az 50 gözlem gerektirir ve öngörücü sayısı gözlem sayısına yaklaştığında veya aştığında performansı düşüktür.
SSS
LDA, lojistik regresyondan nasıl farklıdır?
Her ikisi de doğrusal sınıflandırıcılar üretir, ancak LDA her sınıf içindeki öngörücülerin ortak dağılımını (üretken yaklaşım) modellerken, lojistik regresyon doğrudan sınıf üyeliğinin koşullu olasılığını (ayırt edici yaklaşım) modeller. LDA, normalite ve eşit kovaryans varsayımları geçerli olduğunda daha verimlidir; lojistik regresyon geçerli olmadığında daha sağlamdır.
Sınıflandırma için LDA ile boyut indirgeme için LDA arasındaki fark nedir?
Aynı matematiksel mekanizmayı kullanırlar. Sınıflandırma modunda LDA, gözlemleri gruplara atar. Boyut indirgeme modunda LDA, görselleştirme veya başka bir sınıflandırıcıdan önce ön işleme adımı olarak yüksek boyutlu verileri diskriminant eksenlerine (kanonik değişkenler) yansıtır. Birçok uygulama her ikisini de eş zamanlı olarak yapar.
Ne zaman LDA yerine QDA kullanmalıyım?
Box M testi, grup içi kovaryans matrislerinin gruplar arasında önemli ölçüde farklılaştığını gösterdiğinde Karesel Diskriminant Analizi'ni kullanın. QDA, sınıf başına ayrı bir kovaryans matrisi uydurur ve bu da karesel (eğri) karar sınırları verir. Bu ek parametreleri güvenilir bir şekilde tahmin etmek için daha büyük örneklem boyutları gerektirir.
Sınıflandırma performansı nasıl değerlendirilir?
Genel doğrulukla birlikte tam karmaşıklık matrisini raporlayın. Eğitim kümesi doğruluğu iyimser bir şekilde yanlı olduğundan, görülmeyen veriler üzerindeki genelleştirme doğruluğunu tahmin etmek için k-kat çapraz doğrulamayı (genellikle k = 10) kullanın. Dengesiz sınıflar için, yalnızca genel doğruluğa güvenmek yerine sınıf başına hassasiyeti, özgüllüğü ve ROC eğrisi altındaki alanı raporlayın.
Kaynaklar
- Fisher, R.A. (1936). The Use of Multiple Measurements in Taxonomic Problems. Annals of Eugenics, 7(2), 179–188. DOI: 10.1111/j.1469-1809.1936.tb02137.x ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 1). Linear Discriminant Analysis (LDA — Classification). ScholarGate. https://scholargate.app/tr/statistics/lda-classification
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Faktör AnaliziAraştırma istatistiği↔ karşılaştır
- En Yakın K KomşuMakine öğrenmesi↔ karşılaştır
- Lojistik RegresyonAraştırma istatistiği↔ karşılaştır
- Çok Değişkenli Varyans Analizi (MANOVA)İstatistik↔ karşılaştır
- Naive BayesMakine öğrenmesi↔ karşılaştır
- Temel Bileşen AnaliziMakine öğrenmesi↔ karşılaştır
- Destek Vektör Makinesi (Sınıflandırma)Makine öğrenmesi↔ karşılaştır