قضیه بیز و توزیع پسین
قضیه بیز توزیع پسین پارامترهای نامعلوم را متناسب با درستنمایی دادهها ضربدر توزیع پیشین بیان میکند و موتور محرک تمام استنباط بیزی را فراهم میآورد.
Definition
قضیه بیز بیان میکند که چگالی پسین p(theta | y) برابر است با درستنمایی p(y | theta) ضربدر توزیع پیشین p(theta) تقسیم بر درستنمایی حاشیهای p(y)؛ از آنجایی که p(y) به theta بستگی ندارد، توزیع پسین اغلب به صورت متناسب با درستنمایی ضربدر توزیع پیشین نوشته میشود.
Scope
این موضوع شامل بیان و استخراج قضیه بیز برای استنباط، شکل تناسبی، درستنمایی حاشیهای که توزیع پسین را نرمالیزه میکند، و چگونگی به دست آوردن خلاصههایی مانند میانگینهای پسین، بازههای اعتبار و توزیع پیشبینی پسین است.
Core questions
- توزیع پسین چگونه از توزیع پیشین و درستنمایی استخراج میشود؟
- درستنمایی حاشیهای چیست و چرا به عنوان یک ثابت نرمالسازی عمل میکند؟
- تخمینهای نقطهای و بازههای اعتبار چگونه از توزیع پسین استخراج میشوند؟
- توزیع پیشبینی پسین چیست و چگونه محاسبه میشود؟
Key concepts
- توزیع پیشین
- درستنمایی
- توزیع پسین
- درستنمایی حاشیهای
- بازه اعتبار
- توزیع پیشبینی پسین
- ثابت نرمالسازی
Key theories
- تناسب پسین
- از آنجایی که درستنمایی حاشیهای نسبت به پارامتر ثابت است، استنباط تنها به حاصلضرب درستنمایی و توزیع پیشین تا نرمالسازی بستگی دارد، که این شکلی است که اکثر روشهای محاسباتی از آن بهره میبرند.
- توزیع پیشبینی پسین
- دادههای آینده یا تکراری با میانگینگیری از توزیع نمونهبرداری بر روی توزیع پسین پیشبینی میشوند، که عدم قطعیت پارامتر را به جای جایگزینی یک تخمین نقطهای، ادغام میکند.
Clinical relevance
استنباط پسین در هر جایی که یک کمیت مورد علاقه باید با عدم قطعیت کالیبره شده تخمین زده شود، از جمله تفسیر آزمایشهای تشخیصی، تخمین پارامتر در علوم فیزیکی، و پیشبینی احتمالی، استفاده میشود.
History
این قاعده از مقاله بیز در سال 1763 نشأت میگیرد و توسط لاپلاس به روش احتمال معکوس تعمیم یافت. تأکید مدرن بر توزیع پسین کامل، به جای یک تخمین احتمال معکوس واحد، در ادبیات بیزی قرن بیستم تثبیت شد.
Key figures
- Thomas Bayes
- Pierre-Simon Laplace
- Harold Jeffreys
Related topics
Seminal works
- gelman2013
- bayes1763
Frequently asked questions
- بازه اعتبار چیست؟
- بازه اعتبار، دامنهای است که پارامتر را با یک احتمال پسین مشخص (مثلاً 95%) در بر میگیرد؛ برخلاف بازه اطمینان فراوانیگرا، این یک گزاره احتمال مستقیم در مورد پارامتر با توجه به دادهها و توزیع پیشین است.
- چرا میتوان توزیع پسین را بدون محاسبه درستنمایی حاشیهای نوشت؟
- درستنمایی حاشیهای نسبت به پارامتر یک ثابت است، بنابراین فقط توزیع پسین را مقیاسبندی میکند؛ بسیاری از الگوریتمها مانند MCMC تنها به توزیع پسین تا این ثابت نیاز دارند.