Bayesçi Nonparametrik Yöntemler
Bayesçi nonparametrik yöntemler, dağılımlar ve fonksiyonlar gibi sonsuz boyutlu nesneler üzerine öncüller yerleştirerek, model karmaşıklığının önceden sabitlenmek yerine verilerle birlikte artmasına olanak tanır.
Tanım
Bayesçi nonparametrik yöntemler, Bayesçi istatistiğin, sonsuz boyutlu parametre uzayları üzerinde önsel dağılımlar kullanarak, etkin parametre sayısının analist tarafından belirlenmek yerine verilere uyum sağlamasına olanak tanıyan bir dalıdır.
Kapsam
Bu alan, olasılık ölçümleri ve fonksiyonlar üzerindeki öncülleri kapsar: yoğunluk tahmini ve kümeleme için karışım modellerinde kullanılan Dirichlet süreci ve Gaussian süreçleri ile esnek regresyon, ayrıca bu öncülleri oluşturan çubuk kırma (stick-breaking) ve rastgele ölçüm (random-measure) yapıları ile birlikte sonsal tutarlılık (posterior consistency) sonuçları incelenmektedir.
Alt konular
Temel sorular
- Dağılımlar kümesi gibi sonsuz boyutlu bir uzay üzerinde bir öncül nasıl tanımlanabilir?
- Dirichlet süreci, bilinmeyen sayıda bileşenle yoğunluk tahmini ve kümelemeyi nasıl destekler?
- Gaussian süreçleri, esnek regresyon için fonksiyonlar üzerine öncülleri nasıl yerleştirir?
- Veriler biriktikçe sonsal dağılım ne zaman gerçeğe odaklanır?
Anahtar kavramlar
- Dirichlet süreci
- Gaussian süreci
- çubuk kırma (stick-breaking) yapısı
- rastgele ölçüm (random measure)
- sonsuz karışım modeli
- sonsal tutarlılık (posterior consistency)
- nonparametrik öncül
Temel kuramlar
- Dirichlet süreci öncülü
- Ferguson'ın Dirichlet süreci, örnekleme için eşlenik olan olasılık ölçümleri üzerinde bir dağılımdır ve bilinmeyen dağılımlar için temel nonparametrik öncülü sağlamaktadır.
- Sonsal tutarlılık (posterior consistency) ve oranlar
- Nonparametrik Bayesçi prosedürlerin, belirli koşullar altında, gerçek dağılım veya fonksiyon etrafında optimuma yakın oranlarda yoğunlaştığı gösterilebilmekte, bu da öncüller için frekansçı bir gerekçe sunmaktadır.
Klinik önem
Nonparametrik Bayesçi modeller, genomik, makine öğrenimi ve uzamsal istatistik gibi alanlarda, katı parametrik formların çok kısıtlayıcı olacağı durumlarda esnek yoğunluk tahmini, bilinmeyen sayıda grupla kümeleme ve doğrusal olmayan regresyonu desteklemektedir.
Tarihçe
Ferguson, Dirichlet sürecini 1973'te tanıtmış ve Sethuraman'ın 1994'teki çubuk kırma (stick-breaking) gösterimi, bu süreci hesaplama açısından uygulanabilir hale getirmiştir. Gaussian süreç yöntemleri ve Ghosal ile van der Vaart tarafından 2017'de sentezlenen sonsal tutarlılık (posterior consistency) ve daralma oranlarına (contraction rates) ilişkin zengin bir kuram, Bayesçi nonparametrik yöntemleri olgun bir alan olarak konumlandırmıştır.
Tartışmalar
- Sonsuz boyutlarda öncül etkisi
- Nonparametrik modellerde öncül hiçbir zaman tamamen ortadan kalkmaz, bu nedenle onun yoğunlaşma ve düzgünlük varsayımları çıkarımı güçlü bir şekilde etkileyebilir, bu da sağlamlık ve kalibrasyon hakkında soruları gündeme getirmektedir.
Öne çıkan isimler
- Thomas Ferguson
- David Blackwell
- Jayaram Sethuraman
- Michael Jordan
- Aad van der Vaart
İlgili konular
Temel eserler
- ferguson1973
- ghosal2017
Sıkça sorulan sorular
- 'Nonparametrik' terimi parametre olmadığı anlamına mı gelir?
- Hayır. Bu, modelin sonsuz sayıda parametreye sahip olduğu veya eşdeğer olarak, karmaşıklığının önceden sabitlenmek yerine verilerle birlikte artabilmesi için bir bütün fonksiyon veya dağılım olan bir parametreye sahip olduğu anlamına gelmektedir.