عوامل بیز و احتمال حاشیه‌ای

احتمال حاشیه‌ای، احتمال داده‌ها تحت یک مدل پس از انتگرال‌گیری از پارامترهای آن است، و نسبت دو احتمال حاشیه‌ای، یعنی عامل بیز، شواهدی را بین مدل‌ها اندازه‌گیری می‌کند.

Definition

احتمال حاشیه‌ای یک مدل، انتگرال تابع درست‌نمایی بر روی پیشین است؛ عامل بیز بین دو مدل، نسبت احتمالات حاشیه‌ای آن‌ها است و با ضرب در شانس‌های پیشین، شانس‌های پسین را به نفع یک مدل ارائه می‌دهد.

Scope

این موضوع شامل تعریف و تفسیر احتمال حاشیه‌ای، عامل بیز و کالیبراسیون آن به دسته‌های شواهد، جریمه خودکار پیچیدگی توسط آن، پارادوکس جفریز-لیندلی که حساسیت به پیشین‌های پراکنده را نشان می‌دهد، و روش‌های محاسباتی مانند نمونه‌برداری پل (bridge sampling) است.

Core questions

• احتمال حاشیه‌ای چیست و چگونه یک تیغ اوکام خودکار را در خود جای می‌دهد؟
• عامل بیز چگونه به عنوان قدرت شواهد تفسیر می‌شود؟
• چرا عوامل بیز به انتخاب پیشین حساس هستند، همانطور که پارادوکس جفریز-لیندلی نشان می‌دهد؟
• احتمال حاشیه‌ای در عمل چگونه محاسبه می‌شود؟

Key concepts

• احتمال حاشیه‌ای
• عامل بیز
• شانس‌های پسین
• تیغ اوکام
• پارادوکس جفریز-لیندلی
• نمونه‌برداری پل
• حساسیت پیشین

Key theories

عامل بیز به عنوان شواهد

عامل بیز شانس‌های پیشین را به شانس‌های پسین تبدیل می‌کند و بر روی مقیاس‌های کالیبره شده به عنوان وزن شواهدی که داده‌ها برای یک مدل نسبت به دیگری ارائه می‌دهند، خوانده می‌شود.

پارادوکس جفریز-لیندلی

از آنجا که احتمال حاشیه‌ای به پراکندگی پیشین بستگی دارد، یک پیشین پراکنده دلخواه می‌تواند عامل بیز را مجبور کند که مدل ساده‌تر را بدون توجه به داده‌ها ترجیح دهد، بنابراین پیشین‌های نامناسب نباید برای مقایسه مدل استفاده شوند.

Clinical relevance

عوامل بیز یک معیار اصولی از شواهد را ارائه می‌دهند که در ژنتیک، روانشناسی و فیزیک برای مقایسه فرضیه‌ها استفاده می‌شود، اما وابستگی آن‌ها به پیشین به این معنی است که باید همراه با پیشین‌هایی که آن‌ها را تولید کرده‌اند، گزارش شوند.

History

جفریز عوامل بیز را برای آزمون فرضیه در دهه ۱۹۳۰ توسعه داد؛ پارادوکس لیندلی در سال ۱۹۵۷ حساسیت آن‌ها را به پیشین‌های پراکنده آشکار کرد. بررسی کاس و رافتی در سال ۱۹۹۵ تفسیر آن‌ها را استاندارد کرد و رویکردهای محاسباتی را بررسی نمود.

Debates

استفاده از پیشین‌های نامناسب یا مبهم

از آنجا که احتمال حاشیه‌ای برای پیشین‌های نامناسب تعریف نشده و برای پیشین‌های بسیار پراکنده ناپایدار است، بحثی در مورد پیشین‌های پیش‌فرض برای مقایسه مدل و اینکه آیا عوامل بیز در چنین شرایطی مناسب هستند یا خیر، وجود دارد.

Key figures

• Harold Jeffreys
• Dennis Lindley
• Robert Kass
• Adrian Raftery

Seminal works

• kass1995
• lindley1957

Frequently asked questions

آیا می‌توانم از یک پیشین غیر اطلاعاتی برای محاسبه عامل بیز استفاده کنم؟

معمولاً خیر: پیشین‌های نامناسب احتمال حاشیه‌ای را تعریف نشده باقی می‌گذارند و پیشین‌های مناسب بسیار پراکنده، عامل بیز را به سمت مدل ساده‌تر سوگیری می‌دهند، که جوهر پارادوکس جفریز-لیندلی است، بنابراین عوامل بیز به پیشین‌های مناسب با دقت انتخاب شده نیاز دارند.