مونت کارلو همیلتونی
مونت کارلو همیلتونی از گرادیانهای لگاریتم پسین و دینامیک فیزیکی شبیهسازیشده برای پیشنهاد حرکتهای دور و با پذیرش بالا استفاده میکند و نمونهبرداری کارآمد را در ابعاد بالا ممکن میسازد.
Definition
مونت کارلو همیلتونی یک روش MCMC است که متغیرهای تکانه کمکی را معرفی میکند، دینامیک همیلتونی را با استفاده از گرادیان لگاریتم پسین برای پیشنهاد یک حالت جدید شبیهسازی میکند و آن را با یک گام متروپولیس که خطای انتگرالگیری عددی را تصحیح میکند، میپذیرد.
Scope
این موضوع شامل افزایش پسین با متغیرهای تکانه، انتگرالگیری جهشی (leapfrog) دینامیک همیلتونی، تصحیح متروپولیس برای خطای گسستهسازی، و نمونهبردار بدون دور زدن (No-U-Turn Sampler) است که طول مسیر و اندازه گام را به صورت خودکار تنظیم میکند.
Core questions
- چگونه متغیرهای تکانه و دینامیک همیلتونی پیشنهادهای کارآمدی تولید میکنند؟
- انتگرالگیر جهشی (leapfrog) چیست و چرا تصحیح متروپولیس لازم است؟
- چگونه نمونهبردار بدون دور زدن (No-U-Turn Sampler) نیاز به تنظیم دستی طول مسیر را از بین میبرد؟
- چرا HMC در ابعاد بالا بهتر از روشهای گام تصادفی عمل میکند؟
Key concepts
- متغیرهای تکانه
- انتگرالگیر جهشی (leapfrog)
- دینامیک همیلتونی
- اندازه گام
- طول مسیر
- نمونهبردار بدون دور زدن (No-U-Turn Sampler)
- گرادیان لگاریتم پسین
Key theories
- دینامیک همیلتونی برای نمونهبرداری
- افزایش هدف با تکانه گاوسی و پیروی از دینامیک حفظکننده حجم و انرژی، به نمونهبردار اجازه میدهد تا پسین را با پذیرش بالا و همبستگی کم بین حالتهای متوالی پیمایش کند.
- نمونهبردار بدون دور زدن (No-U-Turn Sampler)
- NUTS به طور خودکار طول مسیر را با گسترش مسیر تا زمانی که شروع به بازگشت کند، انتخاب میکند و این را با تطبیق اندازه گام ترکیب میکند تا بیشتر تنظیمات دستی را حذف کند.
Clinical relevance
مونت کارلو همیلتونی، به ویژه از طریق NUTS، نمونهبردار پیشفرض در سیستمهای برنامهنویسی احتمالی مانند Stan و PyMC است که مدلهای سلسلهمراتبی پیچیده را در فارماکومتریک، اکولوژی و علوم فیزیکی قابل برازش میکند.
History
مونت کارلو هیبریدی توسط Duane و همکارانش در سال 1987 برای کرومودینامیک کوانتومی شبکهای معرفی شد؛ نیل آن را برای آمار تطبیق داد و محبوب کرد، و نمونهبردار بدون دور زدن (No-U-Turn Sampler) هافمن و گلمن در سال 2014 آن را برای کاربران عمومی کاربردی ساخت و برنامهنویسی احتمالی مدرن را پایهگذاری کرد.
Debates
- حساسیت به هندسه و تنظیم
- HMC ممکن است با پسینهای به شدت منحنی یا چندوجهی مشکل داشته باشد و به اطلاعات گرادیان نیاز دارد، که منجر به کار بر روی انواع منیفولد ریمانی و تطبیقی شده است.
Key figures
- Radford Neal
- Simon Duane
- Matthew Hoffman
- Andrew Gelman
- Michael Betancourt
Related topics
Seminal works
- neal2011
- hoffman2014
Frequently asked questions
- چرا HMC سریعتر از متروپولیس گام تصادفی است؟
- با استفاده از اطلاعات گرادیان برای پیشنهاد مسیرهای طولانی که از کانتورهای پسین پیروی میکنند، HMC نمونههای تقریباً مستقل با پذیرش بالا تولید میکند و از اکتشاف آهسته و پراکنده روشهای گام تصادفی در ابعاد بالا جلوگیری میکند.
- HMC چه چیزی را نیاز دارد که نمونهبردارهای سادهتر ندارند؟
- این روش به گرادیان لگاریتم پسین نسبت به پارامترهای پیوسته نیاز دارد، به همین دلیل معمولاً با تمایز خودکار همراه است و نمیتواند مستقیماً پارامترهای گسسته را مدیریت کند.