تخمین بیز و انقباض

برآوردگرهای بیز، باور پیشین را با داده‌ها ترکیب می‌کنند تا میانگین ریسک را به حداقل برسانند، و برآوردگرهای انقباض از این واقعیت شگفت‌انگیز بهره می‌برند که کشاندن برآوردها به سمت یک مرکز می‌تواند بر برآوردگر آشکار غالب باشد.

Definition

یک برآوردگر بیز، زیان مورد انتظار را که بر روی یک توزیع پیشین برای پارامتر میانگین‌گیری شده است، به حداقل می‌رساند؛ یک برآوردگر انقباضی عمداً یک برآورد را به سمت یک نقطه ثابت یا میانگین مشترک سوگیری می‌دهد تا خطای میانگین مربعات کلی آن را کاهش دهد.

Scope

این مبحث شامل توزیع‌های پیشین و پسین، برآوردگرهای بیز به عنوان میانگین‌های پسین تحت تابع زیان مربع خطا و سایر توابع زیان، رابطه بین ریسک بیز و ریسک فراوانی‌گرا، برآوردگر جیمز-استاین و پارادوکس استاین در مورد عدم پذیرش در سه یا چند بعد، بیز تجربی و انقباض سلسله‌مراتبی، و مبادله بایاس-واریانس است که انقباض را سودمند می‌سازد.

Core questions

• چگونه یک برآوردگر بیز از توزیع پسین تحت یک تابع زیان معین استخراج می‌شود؟
• چرا برآوردگر جیمز-استاین بر میانگین نمونه در سه یا چند بعد غالب است؟
• چگونه بیز تجربی از طریق مسائل برآورد مرتبط، قدرت را به اشتراک می‌گذارد؟
• چه زمانی بایاس معرفی شده توسط انقباض منجر به کاهش ریسک می‌شود؟

Key theories

برآوردگرهای بیز و امید ریاضی پسین

تحت تابع زیان مربع خطا، برآوردگر بیز میانگین پسین است؛ برای سایر زیان‌ها، خلاصه پسین مربوطه است و ریسک بیز را که بر روی پیشین میانگین‌گیری شده است، به حداقل می‌رساند.

پارادوکس استاین و برآوردگر جیمز-استاین

هنگام برآورد همزمان سه یا چند میانگین، میانگین نمونه تحت تابع زیان مربع خطا غیرقابل قبول است، و برآوردگر جیمز-استاین که به سمت یک نقطه مشترک منقبض می‌شود، ریسک یکنواخت کوچک‌تری دارد.

Clinical relevance

برآوردگرهای انقباضی و بیز تجربی دقت را هنگامی که بسیاری از کمیت‌های مرتبط به طور همزمان برآورد می‌شوند، بهبود می‌بخشند، مانند برآورد مناطق کوچک، رتبه‌بندی‌های ورزشی و آموزشی، ژنومیک، و رگرسیون ریج و منظم‌شده، که در آن تجمیع اطلاعات در بین واحدها بهتر از بررسی هر واحد به صورت جداگانه است.

History

استاین در سال ۱۹۵۶ نشان داد که برآوردگر معمول میانگین نرمال چندمتغیره در سه یا چند بعد غیرقابل قبول است، و جیمز و استاین در سال ۱۹۶۱ یک برآوردگر غالب را ارائه کردند. افرون و موریس در دهه ۱۹۷۰ این نتیجه را از طریق بیز تجربی بازتعریف کردند و انقباض را به ابزاری عملی تبدیل کردند.

Key figures

• Charles Stein
• Willard James
• Bradley Efron
• James O. Berger

Seminal works

• berger1985

Frequently asked questions

چرا یک برآوردگر بایاس‌دار ممکن است ترجیح داده شود؟

زیرا خطای میانگین مربعات، بایاس و واریانس را ترکیب می‌کند؛ یک بایاس کوچک که کاهش زیادی در واریانس به همراه دارد، می‌تواند خطای کلی را کاهش دهد، که دقیقاً همان چیزی است که برآوردگرهای انقباضی از آن بهره می‌برند.

آیا پارادوکس استاین واقعاً یک پارادوکس است؟

این بیشتر شگفت‌انگیز است تا متناقض: نشان می‌دهد که برآورد چندین میانگین نامرتبط با انقباض مشترک آن‌ها بهبود می‌یابد، زیرا ریسک ترکیبی، نه هر برآورد جداگانه، چیزی است که کاهش می‌یابد.