Gauss Süreç Modelleri
Gauss süreci, doğrudan fonksiyonlar üzerine bir önsel (prior) yerleştirmektedir; bu sayede regresyon ve sınıflandırma, kalibre edilmiş belirsizlikle parametrik olmayan bir şekilde gerçekleştirilebilmektedir.
Tanım
Gauss süreci, fonksiyonlar üzerinde bir dağılımdır; öyle ki herhangi sonlu bir girdi kümesindeki değerler, bir ortalama fonksiyonu ve bir kovaryans çekirdeği tarafından belirlenen çok değişkenli normal dağılımı takip etmektedir. Gözlemlenen verilere koşullandırma, tahmin için kullanılan fonksiyonlar üzerinde bir sonsal (posterior) dağılım sağlamaktadır.
Kapsam
Bu konu, Gauss sürecinin ortalama ve kovaryans (çekirdek) fonksiyonları aracılığıyla tanımını, regresyon için kapalı formdaki sonsal (posterior) dağılımı, çekirdek seçimi ve hiperparametrelerin düzgünlüğü kodlamadaki rolünü, gizli Gauss süreçleri aracılığıyla sınıflandırmayı ve büyük veri kümelerinin hesaplama maliyetini kapsamaktadır.
Temel sorular
- Bir kovaryans çekirdeği, fonksiyonlar üzerinde bir önseli (prior) nasıl tanımlamaktadır?
- Gauss süreç regresyonunun sonsal (posterior) dağılımı kapalı formda nasıl hesaplanmaktadır?
- Çekirdek hiperparametreleri düzgünlüğü ve uzunluk ölçeğini nasıl kontrol etmektedir?
- Büyük veri kümeleri için kesin Gauss süreç çıkarımını pahalı kılan nedir?
Anahtar kavramlar
- kovaryans çekirdeği
- ortalama fonksiyonu
- uzunluk ölçeği
- Gauss süreç regresyonu
- gizli Gauss süreci
- marjinal olabilirlik
- ölçeklenebilirlik
Temel kuramlar
- Fonksiyon uzayı önseli (prior)
- Ortalama ve kovaryans fonksiyonlarını belirtmek, fonksiyonlar üzerinde tutarlı bir önsel (prior) tanımlamaktadır; Gauss olabilirlikleri için sonsal (posterior) ortalama ve varyans, çekirdek matrisi tarafından verilen kapalı formlara sahiptir.
- Sinir ağı limiti
- Neal, sonsuz sayıda gizli birime ve uygun önsel (prior) dağılımlara sahip tek katmanlı bir sinir ağının bir Gauss sürecine yakınsadığını göstermiş, böylece Bayes sinir ağlarını Gauss süreç önsel (prior) dağılımlarına bağlamıştır.
Klinik önem
Gauss süreçleri, uzamsal istatistikler, bilgisayar modeli emülasyonu, zaman serisi interpolasyonu ve Bayes optimizasyonu gibi bilim ve mühendislik alanlarında belirsizlikle birlikte esnek regresyon sağlamaktadır.
Tarihçe
Gauss süreç regresyonu, jeoistatistikteki kriging yöntemine ve O'Hagan'ın eğri uydurma (curve fitting) üzerine yaptığı çalışmalara dayanmaktadır. Neal'ın 1996'da sinir ağlarıyla kurduğu bağlantı ve Rasmussen ile Williams'ın 2006 tarihli monografisi, Gauss süreçlerini merkezi bir makine öğrenimi ve parametrik olmayan Bayes aracı olarak konumlandırmıştır.
Tartışmalar
- Büyük verilere ölçekleme
- Kesin çıkarım maliyetleri, gözlem sayısıyla kübik olarak artmaktadır; bu nedenle birçok araştırma, doğruluktan ödün vererek ölçeklenebilirlik sağlayan seyrek ve yaklaşık yöntemlere odaklanmaktadır.
Öne çıkan isimler
- Carl Edward Rasmussen
- Christopher Williams
- Radford Neal
- Anthony O'Hagan
İlgili konular
Temel eserler
- rasmussen2006
- neal1996
Sıkça sorulan sorular
- Bir Gauss sürecinde çekirdek ne işe yaramaktadır?
- Çekirdek, farklı girdilerdeki fonksiyon değerleri arasındaki kovaryansı belirlemekte, düzgünlük ve karakteristik uzunluk ölçeği gibi varsayımları kodlamaktadır; çekirdeğin seçimi ve hiperparametreleri, çıkarılan fonksiyonun şeklini ve esnekliğini büyük ölçüde belirlemektedir.