No-U-Turn Örnekleyici (NUTS)
No-U-Turn Sampler (NUTS) · Ayrıca şöyle bilinir: NUTS, No-U-Turn HMC, adaptive Hamiltonian Monte Carlo, self-tuning HMC
Hoffman ve Gelman (2014) tarafından tanıtılan No-U-Turn Örnekleyici (NUTS), en hassas manuel ayarlama parametresini ortadan kaldırarak, en uygun sıçrama adımı sayısını otomatik olarak belirleyerek Hamiltoniyen Monte Carlo'yu (HMC) genişleten kendi kendini ayarlayan bir Markov zinciri Monte Carlo algoritmasıdır. NUTS, Stan ve PyMC'deki varsayılan örnekleyicidir ve kullanıcıların yörünge uzunluklarını elle ayarlamasını gerektirmeden büyük ölçekli, yüksek boyutlu Bayesci çıkarımı pratik olarak erişilebilir hale getirmiştir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
NUTS, sonsal sürekli olduğunda ve sonsal logaritmanın parametrelere göre gradyanları mevcut olduğunda, çoğu Bayesci modelde sonsal örnekleme için varsayılan seçimdir. Rastgele yürüyüş Metropolis-Hastings'in son derece yavaş karıştığı orta ila büyük parametre uzayları (onlarca ila binlerce boyut) için en iyi performansı gösterir. Modelin Stan veya PyMC'de kodlandığı (otomatik farklılaştırma yoluyla gradyanları otomatik olarak hesaplayan) veya kullanıcının özel bir uygulamada analitik veya AD tabanlı gradyanlar sağlayabildiği durumlarda uygundur. NUTS, ayrık parametre uzaylarına (ayrık parametreler marjinalize edilmeli veya ayrı örnekleyicilerle işlenmelidir) veya daha basit örnekleyicilerin yeterli olduğu çok ucuz olasılıklara doğrudan uygulanamaz.
Güçlü yönler & sınırlılıklar
- Otomatik No-U-Turn durdurma kriteri aracılığıyla en hassas HMC ayarlama parametresini (yörünge uzunluğu L) ortadan kaldırır.
- Çift ortalama yoluyla ısınma sırasında sıçrama adım boyutunu kendi kendine ayarlar, manuel kalibrasyon gerektirmez.
- Yüksek boyutlu ve ilişkili sonsallarda rastgele yürüyüş Metropolis'ten çok daha hızlı karışır, gradyan değerlendirmesi başına çok daha fazla etkili örnek üretir.
- Stan ve PyMC'de varsayılan, üretim sınıfı örnekleyici olarak gönderilir, olgun bir tanı araçları ekosistemine erişim sağlar (R-hat, ESS, eksik bilginin enerji kesri).
- Hiyerarşik ve gizli-değişkenli modeller için pratik hale getirerek yüzlerce veya binlerce parametreye ölçeklenir, bunlar daha basit MCMC ile çözülemez.
- Sürekli, türevlenebilir sonsal logaritma gerektirir; ayrık parametreler doğrudan örneklenemez ve marjinalize edilmeli veya ayrı olarak işlenmelidir.
- Her sıçrama adımı, sonsal logaritmanın tam gradyanını değerlendirir, bu da her iterasyonu bir Metropolis adımından daha pahalı hale getirir — karşılığı, birim zaman başına daha yüksek etkili örnek boyutudur, ancak bu takas çok ucuz olasılıklar için elverişsiz olabilir.
- Adım boyutu uyarlaması için ısınma (tipik olarak 500–1000 iterasyon) gereklidir; uyarlanmış parametreler sonsal örnekleri toplandığında atılır.
- Çok keskin eğrilik değişiklikleri olan sonsal geometri (huni benzeri hiyerarşik modeller) hala NUTS'u zorlayabilir; yeniden parametrelendirme (örneğin, merkezlenmemiş parametrelendirme) genellikle gereklidir.
- Hataları teşhis etmek, enerji tanılarını ve ıraksak geçişleri anlamayı gerektirir, bu da daha basit örnekleyicilere kıyasla yorumlama yükü ekler.
SSS
NUTS ve düz Hamiltoniyen Monte Carlo arasındaki fark nedir?
Standart HMC, kullanıcının iki parametre belirtmesini gerektirir: sıçrama adım boyutu ε ve sıçrama adımı sayısı L. L'yi kötü seçmek, yavaş karışmaya (çok küçük) veya yörünge geri döndüğünde boşa harcanan hesaplamaya (çok büyük) yol açar. NUTS, sabit L'yi No-U-Turn durdurma kriteri ile değiştirir — bir U-dönüşü algılayana kadar yörüngeyi ikiye katlar ve ardından sonuçta ortaya çıkan ağaçtan bir nokta seçer — böylece L otomatik olarak ayarlanır. Adım boyutu, ısınma sırasında çift ortalama ile ele alınır. Sonuç, NUTS'un kullanıcının L'yi hiç ayarlamasını gerektirmeden iyi ayarlanmış HMC'nin performansını yeniden üretmesidir.
Iraksak geçişler nelerdir ve neden önemlidirler?
Bir ıraksak geçiş, sıçrama entegratörünün çok yüksek eğriliğe sahip sonsal bir bölgesine rastladığında ve simüle edilmiş Hamiltoniyenin başlangıç değerinden önemli ölçüde saptığı zaman meydana gelir. Bu, örnekleyicinin doğru bir şekilde entegre edemediği bir bölgeyi keşfettiğini ve o bölgeden elde edilen örneklerin yanlı olduğunu gösterir. Stan ve PyMC'de sapmalar açıkça işaretlenir. Çok az sayıda sapma bile (örneğin, ısınma sonrası iterasyonların yaklaşık %0.1'inden fazlası) soruşturmayı gerektirir. Çözüm genellikle modelin yeniden parametrelendirilmesi (örneğin, hiyerarşik modeller için merkezlenmiş bir parametrelendirmeden merkezlenmemiş bir parametrelendirmeye geçiş) veya hedef kabul oranının artırılmasıdır (bu, adım boyutunu azaltır ve entegrasyon doğruluğunu artırır).
NUTS yakınsamasını nasıl değerlendirmeliyim?
Dağılmış başlangıç değerlerinden en az dört zincir çalıştırın ve şunları kontrol edin: (1) tüm parametreler için R-hat < 1.01 — bu değerlerin üzerindeki değerler, zincirlerin ortak bir dağılıma yakınsamadığını gösterir; (2) toplu ve kuyruk etkili örnek boyutu (ESS) — güvenilir sonsal özetler için zincir başına en az 100 (toplam 400) ve kararlı kuyruk nicelemeleri için en az 400 hedefleyin; (3) yeniden parametrelendirmeden sonra ıraksak geçiş sayısı sıfıra yakın olmalıdır; (4) enerji tanısı (E-BFMI) yaklaşık 0.2'nin üzerinde olmalıdır; (5) iz grafikleri, eğilimler veya takılı bölgeler olmadan iyi karışım göstermelidir.
NUTS ayrık parametreleri örnekleyebilir mi?
Hayır — NUTS, parametrelere göre sonsal logaritmanın gradyanlarını gerektirir, bunlar ayrık nicelikler için tanımsızdır. Ayrık parametrelere sahip modeller, bu parametreleri analitik olarak marjinalize etmeli (Stan'ın gerektirdiği gibi) veya ayrı bir örnekleyici ile işlemelidir. PyMC, sürekli parametreler için NUTS'u ayrık olanlar için Metropolis-Hastings adımlarıyla eşleştiren bazı bileşik örnekleyicileri destekler, ancak ayrık ve sürekli parametreler yüksek derecede bağımlı olduğunda ortak karışım yavaş olabilir.
Kaynaklar
- Hoffman, M. D., & Gelman, A. (2014). The No-U-Turn Sampler: Adaptively setting path lengths in Hamiltonian Monte Carlo. Journal of Machine Learning Research, 15(47), 1593–1623. link ↗
- Neal, R. M. (2011). MCMC using Hamiltonian dynamics. In S. Brooks, A. Gelman, G. L. Jones, & X.-L. Meng (Eds.), Handbook of Markov Chain Monte Carlo (pp. 113–162). CRC Press. DOI: 10.1201/b10905-6 ↗
- Gelman, A., Carlin, J. B., Stern, H. S., Dunson, D. B., Vehtari, A., & Rubin, D. B. (2013). Bayesian Data Analysis (3rd ed.). CRC Press. ISBN: 978-1-4398-4095-5
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 3). No-U-Turn Sampler (NUTS). ScholarGate. https://scholargate.app/tr/bayesian/no-u-turn-sampler
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- Bayes RegresyonuBayesçi↔ karşılaştır
- Hamiltonian Monte CarloBayesçi↔ karşılaştır
- Markov Chain Monte Carlo (MCMC)Bayesçi↔ karşılaştır
- Varyasyonel ÇıkarımBayesçi↔ karşılaştır