تقدير بايز وتقدير الانكماش

تجمع مقدرات بايز بين الاعتقاد المسبق والبيانات لتقليل متوسط المخاطر، وتستغل مقدرات الانكماش الحقيقة المفاجئة بأن سحب التقديرات نحو المركز يمكن أن يتفوق على المقدر الواضح.

Definition

مقدر بايز هو الذي يقلل الخسارة المتوقعة بمتوسطها على توزيع قبلي للمعلمة؛ ومقدر الانكماش هو الذي يحيز التقدير عمدًا نحو نقطة ثابتة أو متوسط مشترك لتقليل متوسط مربع الخطأ الكلي.

Scope

يغطي هذا الموضوع التوزيعات القبلية (prior distributions) والتوزيع البعدي (posterior)، ومقدرات بايز كمتوسطات بعدية تحت دالة خسارة المربع الخطأ (squared-error loss) ودوال خسارة أخرى، والعلاقة بين مخاطر بايز والمخاطر التكرارية (frequentist risk)، ومقدر جيمس-شتاين (James-Stein estimator) ومفارقة شتاين لعدم المقبولية (inadmissibility) في ثلاثة أبعاد أو أكثر، وبايز التجريبي (empirical Bayes) والانكماش الهرمي (hierarchical shrinkage)، والمفاضلة بين التحيز والتباين (bias-variance trade-off) التي تجعل الانكماش مفيدًا.

Core questions

• كيف يُشتق مقدر بايز من التوزيع البعدي تحت دالة خسارة معينة؟
• لماذا يتفوق مقدر جيمس-شتاين على متوسط العينة في ثلاثة أبعاد أو أكثر؟
• كيف يستعير بايز التجريبي القوة عبر مشاكل التقدير ذات الصلة؟
• متى يؤتي التحيز الذي يسببه الانكماش ثماره في تقليل المخاطر؟

Key theories

مقدرات بايز والتوقع البعدي

تحت دالة خسارة المربع الخطأ، يكون مقدر بايز هو المتوسط البعدي؛ وبالنسبة للخسائر الأخرى، يكون هو الملخص البعدي المقابل، وهو يقلل من مخاطر بايز بمتوسطها على التوزيع القبلي.

مفارقة شتاين ومقدر جيمس-شتاين

عند تقدير ثلاثة متوسطات أو أكثر في وقت واحد، يكون متوسط العينة غير مقبول تحت دالة خسارة المربع الخطأ، ومقدر جيمس-شتاين الذي ينكمش نحو نقطة مشتركة لديه مخاطر أقل بشكل موحد.

Clinical relevance

تعمل مقدرات الانكماش وبايز التجريبي على تحسين الدقة عند تقدير العديد من الكميات المترابطة في وقت واحد، كما هو الحال في تقدير المناطق الصغيرة، وتصنيفات الرياضة والتعليم، وعلم الجينوم، والانحدار التلوي (ridge regression) والانحدار المنتظم (regularized regression)، حيث يتفوق تجميع المعلومات عبر الوحدات على معالجة كل منها بمعزل عن الآخر.

History

أظهر شتاين في عام 1956 أن المقدر المعتاد لمتوسط طبيعي متعدد المتغيرات غير مقبول في ثلاثة أبعاد أو أكثر، وعرض جيمس وشتاين مقدرًا مهيمنًا في عام 1961. أعاد إيفرون وموريس صياغة النتيجة من خلال بايز التجريبي في السبعينيات، مما جعل الانكماش أداة عملية.

Key figures

• Charles Stein
• Willard James
• Bradley Efron
• James O. Berger

Seminal works

• berger1985

Frequently asked questions

لماذا قد يُفضل مقدر متحيز على الإطلاق؟

لأن متوسط مربع الخطأ يجمع بين التحيز والتباين؛ فالتحيز الصغير الذي يؤدي إلى تقليل كبير في التباين يمكن أن يقلل من الخطأ الكلي، وهذا بالضبط ما تستغله مقدرات الانكماش.

هل مفارقة شتاين هي حقًا مفارقة؟

إنها مفاجئة وليست متناقضة: فهي تُظهر أن تقدير عدة متوسطات غير مرتبطة يتحسن عن طريق تقليصها بشكل مشترك، لأن المخاطر المجمعة، وليس كل تقدير منفصل، هي التي يتم تقليلها.