Bayes Faktörleri ve Marjinal Olabilirlik
Marjinal olabilirlik, bir modelin parametreleri entegre edildikten sonra verinin olasılığıdır ve iki marjinal olabilirliğin oranı olan Bayes faktörü, modeller arasındaki kanıtı ölçmek için kullanılmaktadır.
Tanım
Bir modelin marjinal olabilirliği, öncül (prior) üzerindeki olabilirliğin (likelihood) integralidir; iki model arasındaki Bayes faktörü, marjinal olabilirliklerinin oranıdır ve öncül oranlarla (prior odds) çarpıldığında, bir model lehine sonsal oranları (posterior odds) vermektedir.
Kapsam
Bu konu, marjinal olabilirliğin, Bayes faktörünün tanımını ve yorumlanmasını, kanıt kategorilerine kalibrasyonunu, karmaşıklığı otomatik olarak cezalandırma özelliğini, yaygın öncüllere (priors) duyarlılığını gösteren Jeffreys-Lindley paradoksunu ve köprü örneklemesi (bridge sampling) gibi hesaplama yöntemlerini kapsamaktadır.
Temel sorular
- Marjinal olabilirlik nedir ve otomatik bir Ockham'ın Usturası'nı nasıl somutlaştırmaktadır?
- Bir Bayes faktörü, kanıt gücü olarak nasıl yorumlanmaktadır?
- Jeffreys-Lindley paradoksunun gösterdiği gibi, Bayes faktörleri neden öncül (prior) seçimine duyarlıdır?
- Marjinal olabilirlik pratikte nasıl hesaplanmaktadır?
Anahtar kavramlar
- marjinal olabilirlik
- Bayes faktörü
- sonsal oranlar (posterior odds)
- Ockham'ın Usturası
- Jeffreys-Lindley paradoksu
- köprü örneklemesi (bridge sampling)
- öncül duyarlılığı (prior sensitivity)
Temel kuramlar
- Kanıt olarak Bayes faktörü
- Bayes faktörü, öncül oranları sonsal oranlara dönüştürmektedir ve kalibre edilmiş ölçeklerde, verinin bir model lehine diğerine göre sağladığı kanıt ağırlığı olarak okunmaktadır.
- Jeffreys-Lindley paradoksu
- Marjinal olabilirlik, öncülün (prior) yayılımına bağlı olduğundan, keyfi olarak yaygın bir öncül, veriden bağımsız olarak Bayes faktörünü daha basit modeli desteklemeye zorlayabilmektedir; bu nedenle, uygunsuz öncüller (improper priors) model karşılaştırması için kullanılmamalıdır.
Klinik önem
Bayes faktörleri, genetik, psikoloji ve fizikte hipotezleri karşılaştırmak için kullanılan ilkeli bir kanıt ölçüsü sağlamaktadır; ancak öncüle (prior) olan bağımlılıkları nedeniyle, onları üreten öncüllerle birlikte rapor edilmeleri gerekmektedir.
Tarihçe
Jeffreys, 1930'larda hipotez testi için Bayes faktörlerini geliştirmiştir; Lindley'nin 1957 paradoksu, bunların yaygın öncüllere (priors) duyarlılıklarını ortaya koymuştur. Kass ve Raftery'nin 1995 tarihli derlemesi, yorumlarını standartlaştırmış ve hesaplama yaklaşımlarını incelemiştir.
Tartışmalar
- Uygunsuz veya belirsiz öncüllerin kullanımı
- Marjinal olabilirlik, uygunsuz öncüller (improper priors) için tanımsız ve çok yaygın olanlar için kararsız olduğundan, model karşılaştırması için varsayılan öncüller (default priors) ve bu tür durumlarda Bayes faktörlerinin genel olarak uygun olup olmadığı hakkında bir tartışma bulunmaktadır.
Öne çıkan isimler
- Harold Jeffreys
- Dennis Lindley
- Robert Kass
- Adrian Raftery
İlgili konular
Temel eserler
- kass1995
- lindley1957
Sıkça sorulan sorular
- Bir Bayes faktörü hesaplamak için bilgilendirici olmayan bir öncül (noninformative prior) kullanabilir miyim?
- Genellikle hayır: uygunsuz öncüller (improper priors) marjinal olabilirliği tanımsız bırakmaktadır ve çok yaygın uygun öncüller (proper priors), Jeffreys-Lindley paradoksunun özü olarak, Bayes faktörünü daha basit modele doğru saptırma eğilimindedir; bu nedenle Bayes faktörleri dikkatlice seçilmiş uygun öncüller gerektirmektedir.