Bayes ve Büzülme Tahmini
Bayes tahmin edicileri, ortalama riski en aza indirmek için önsel inancı verilerle harmanlamaktadır; büzülme tahmin edicileri ise tahminleri bir merkeze doğru çekmenin bariz tahmin ediciye üstün gelebileceği şaşırtıcı gerçeğinden faydalanmaktadır.
Tanım
Bir Bayes tahmin edicisi, parametre üzerindeki bir önsel dağılım üzerinden ortalaması alınmış beklenen kaybı en aza indirmektedir; bir büzülme tahmin edicisi ise genel ortalama karesel hatasını azaltmak amacıyla bir tahmini kasıtlı olarak sabit bir noktaya veya ortak bir ortalamaya doğru yanlı hale getirmektedir.
Kapsam
Bu konu, önsel dağılımları ve sonsalı (posterior), karesel hata kaybı ve diğer kayıp fonksiyonları altında sonsal ortalamalar olarak Bayes tahmin edicilerini, Bayes riski ile frekansçı risk arasındaki ilişkiyi, James-Stein tahmin edicisini ve üç veya daha fazla boyutta kabul edilemezlik (inadmissibility) paradoksunu, ampirik Bayes'i ve hiyerarşik büzülmeyi, ayrıca büzülmeyi avantajlı kılan yanlılık-varyans dengesini kapsamaktadır.
Temel sorular
- Bir Bayes tahmin edicisi, belirli bir kayıp fonksiyonu altında sonsal dağılımdan nasıl türetilir?
- James-Stein tahmin edicisi, üç veya daha fazla boyutta örneklem ortalamasına neden üstün gelmektedir?
- Ampirik Bayes, ilişkili tahmin problemlerinde gücü nasıl ödünç almaktadır?
- Büzülme ile ortaya çıkan yanlılık, riskin azalmasıyla ne zaman karşılığını vermektedir?
Temel kuramlar
- Bayes tahmin edicileri ve sonsal beklenti
- Karesel hata kaybı altında Bayes tahmin edicisi sonsal ortalamadır; diğer kayıplar için ise ilgili sonsal özettir ve önsel üzerinden ortalaması alınmış Bayes riskini en aza indirmektedir.
- Stein paradoksu ve James-Stein tahmin edicisi
- Üç veya daha fazla ortalama aynı anda tahmin edildiğinde, karesel hata kaybı altında örneklem ortalaması kabul edilemezdir (inadmissible) ve ortak bir noktaya doğru büzülen James-Stein tahmin edicisi tekdüze olarak daha küçük bir riske sahiptir.
Klinik önem
Büzülme ve ampirik Bayes tahmin edicileri, küçük alan tahmini, spor ve eğitim sıralamaları, genomik ve ridge ile düzenlileştirilmiş regresyon gibi birçok ilişkili niceliğin aynı anda tahmin edildiği durumlarda doğruluğu artırmaktadır; bu tür durumlarda birimler arası bilginin birleştirilmesi, her birini ayrı ayrı ele almaktan daha iyi sonuçlar vermektedir.
Tarihçe
Stein, 1956'da çok değişkenli normal ortalamanın olağan tahmin edicisinin üç veya daha fazla boyutta kabul edilemez (inadmissible) olduğunu göstermiştir; James ve Stein ise 1961'de üstün bir tahmin edici sunmuşlardır. Efron ve Morris, 1970'lerde bu sonucu ampirik Bayes aracılığıyla yeniden çerçeveleyerek büzülmeyi pratik bir araç haline getirmişlerdir.
Öne çıkan isimler
- Charles Stein
- Willard James
- Bradley Efron
- James O. Berger
İlgili konular
Temel eserler
- berger1985
Sıkça sorulan sorular
- Yanlı bir tahmin edici neden tercih edilebilir?
- Çünkü ortalama karesel hata yanlılık ve varyansı birleştirir; varyansta büyük bir azalma sağlayan küçük bir yanlılık, toplam hatayı düşürebilir ki büzülme tahmin edicilerinin faydalandığı tam da budur.
- Stein paradoksu gerçekten bir paradoks mudur?
- Çelişkili olmaktan ziyade şaşırtıcıdır: Birbiriyle ilişkili olmayan birkaç ortalamayı tahmin etmenin, bunları birlikte büzerek iyileştirilebileceğini göstermektedir, çünkü azaltılan şey her bir ayrı tahmin değil, birleşik risktir.