Karesel Diskriminant Analizi

Karesel diskriminant analizi, farklı kovaryans matrislerine sahip olmalarına izin verilen çok değişkenli Gauss grupları altında gözlemleri sınıflandırmakta ve eğrisel karar sınırları üretmektedir.

Tanım

Karesel diskriminant analizi, her grubu kendi kovaryans matrisiyle çok değişkenli normal olarak modelleyen ve bu yoğunluklardan türetilen karesel diskriminant skorlarını karşılaştırarak gözlemleri atayan bir sınıflandırma yöntemidir.

Kapsam

Bu konu, gruplara özgü kovaryans matrislerine sahip Gauss sınıflandırma modelini, ortaya çıkan karesel diskriminant fonksiyonlarını, doğrusal diskriminant analizine göre parametrelerdeki ödünleşimi, küçük örneklemlere karşı duyarlılığı ve doğrusal ile karesel kurallar arasında enterpolasyon yapan düzenlileştirilmiş yaklaşımları kapsamaktadır.

Temel sorular

• Eşit kovaryans varsayımını gevşetmek karar sınırını nasıl değiştirmektedir?
• Ayrı kovaryansların ek esnekliği sınıflandırmayı ne zaman iyileştirmektedir?
• Karesel diskriminant analizi küçük örneklemlerde neden aşırı uyuma daha yatkındır?
• Düzenlileştirme, kovaryans tahminlerini nasıl stabilize edebilmektedir?

Temel kuramlar

Eşit Olmayan Kovaryans Gauss Modeli

Her grup kendi kovaryans matrisiyle çok değişkenli normal olduğunda, yoğunlukların log-oranı özelliklerde kareseldir; bu nedenle gruplar arasındaki Bayes-optimal sınır karesel bir yüzey olmaktadır.

Doğrusal Diskriminant Analizi ile Yanlılık-Varyans Ödünleşimi

Karesel diskriminant analizi, her grup için ayrı bir kovaryans tahmin etmekte, kovaryanslar gerçekten farklı olduğunda yanlılığı azaltmakta ancak varyansı artırmaktadır; bu nedenle örneklemler küçük olduğunda doğrusal kural tarafından geride bırakılabilmektedir.

Klinik önem

Karesel diskriminant analizi, grupların ortalamalarının yanı sıra dağılımlarında da makul ölçüde farklılık gösterdiği durumlarda uygulanmakta, bilim ve mühendislikteki sınıflandırma problemlerinde doğrusal kuraldan daha esnek sınırlar sunmaktadır.

Tarihçe

Karesel diskriminasyon, ortak bir kovaryans matrisi varsayımı ortadan kalktığında Fisher'ın ve Gauss doğrusal diskriminantının doğal bir uzantısı olarak ortaya çıkmış ve daha sonra yüksek boyutlu ve küçük örneklemli verileri işlemek için düzenlileştirilmiş diskriminant analizi ile tamamlanmıştır.

Tartışmalar

Doğrusal ve Karesel Sınırlar

Gruplara özgü kovaryanslara izin vermek, gerçekten eğrisel sınırları yakalayabilmekte ancak tahmin edilen parametre sayısını artırmaktadır; bu nedenle doğrusal ve karesel diskriminant analizi arasındaki seçim, örneklem büyüklüğüne duyarlı bir yanlılık-varyans kararıdır.

Öne çıkan isimler

• T. W. Anderson

İlgili konular

• Doğrusal Diskriminant Analizi
• Lojistik Diskriminasyon
• Çok Değişkenli Normal Dağılım

Temel eserler

• anderson2003
• hastie2009
• johnson2007

Sıkça sorulan sorular

LDA yerine QDA ne zaman kullanılmalıdır?

Karesel diskriminant analizi, grupların önemli ölçüde farklı kovaryans yapılarına sahip olduğu görüldüğünde ve örneklem, her grup için ayrı bir kovaryans matrisini güvenilir bir şekilde tahmin etmek için yeterince büyük olduğunda kullanılmalıdır.

Düzenlileştirilmiş diskriminant analizi nedir?

Bu, her grup kovaryansını birleştirilmiş bir tahmine doğru küçülten ve karesel ile doğrusal diskriminant analizi arasında sorunsuz bir şekilde enterpolasyon yapan bir parametreyi ayarlayan bir uzlaşma yöntemidir.

Bu kavram için yöntemler

• Quadratic Discriminant Analysis
• Bayesian Discriminant Analysis
• Linear Discriminant Analysis
• Linear Discriminant Analysis (Classification)
• Discriminant Analysis
• Robust Discriminant Analysis
• Regularized Logistic Regression
• K-Nearest Neighbors

İlgili kavramlar

• Doğrusal Diskriminant Analizi
• Sınıflandırma ve Diskriminant Analizi
• Lojistik Diskriminasyon
• Sınıflandırma Algoritmaları
• Çok Değişkenli Normal Dağılım
• Destek Vektör Makineleri ve Çekirdek Yöntemleri