Métodos empíricos de Bayes

La estimación empírica de Bayes calcula la distribución a priori a partir de los propios datos, lo que proporciona gran parte del beneficio de un modelo jerárquico con un menor costo computacional.

Definition

Los métodos empíricos de Bayes son un enfoque de inferencia jerárquica en el que los parámetros de la distribución a priori se estiman a partir de los datos observados, generalmente maximizando la verosimilitud marginal, y luego se tratan como conocidos al calcular las distribuciones a posteriori para las cantidades a nivel de grupo.

Scope

Este tema abarca los métodos empíricos de Bayes paramétricos y no paramétricos, la estimación de hiperparámetros mediante la máxima verosimilitud marginal o el método de los momentos, la conexión con la contracción de James-Stein y la advertencia de que los métodos empíricos de Bayes pueden subestimar la incertidumbre al ignorar el error en la estimación a priori.

Core questions

• ¿Cómo se estiman los hiperparámetros a partir de la distribución marginal de los datos?
• ¿Cómo se relacionan los métodos empíricos de Bayes con el modelado jerárquico completamente bayesiano?
• ¿Por qué se conectan con los estimadores de contracción de James-Stein?
• ¿De qué manera pueden los métodos empíricos de Bayes subestimar la incertidumbre?

Key concepts

• métodos empíricos de Bayes
• máxima verosimilitud marginal
• estimación de hiperparámetros
• estimador de James-Stein
• contracción
• tasa de falsos descubrimientos
• subestimación de la incertidumbre

Key theories

Estimación de la distribución a priori a partir de los datos

Al ajustar los hiperparámetros de la distribución a priori a la distribución marginal de todos los datos, los métodos empíricos de Bayes aprenden cuánto agrupar sin especificar una distribución hiper-a priori, aproximando la distribución a posteriori jerárquica completa.

Conexión con la contracción de Stein

El estimador de James-Stein se puede derivar como una regla empírica de Bayes paramétrica, lo que hace explícito que las distribuciones a priori estimadas a partir de los datos producen la contracción que reduce el error total.

Clinical relevance

Los métodos empíricos de Bayes sustentan la inferencia a gran escala en genómica e imagenología, donde se estiman miles de efectos simultáneamente y las distribuciones a priori basadas en datos estabilizan las estimaciones y controlan los falsos descubrimientos.

History

Robbins introdujo los métodos empíricos de Bayes en 1956; Efron y Morris los conectaron con la contracción de Stein en la década de 1970. El auge de los datos de alto rendimiento hizo que los métodos empíricos de Bayes fueran fundamentales para la inferencia simultánea a gran escala, como se desarrolló en la monografía de Efron de 2010.

Debates

Ignorar la incertidumbre en la distribución a priori estimada

Debido a que los métodos empíricos de Bayes insertan estimaciones puntuales de los hiperparámetros, pueden producir intervalos excesivamente confiados en relación con un análisis completamente bayesiano que propaga esa incertidumbre.

Key figures

• Herbert Robbins
• Bradley Efron
• Carl Morris

Seminal works

• robbins1956
• efron2010

Frequently asked questions

¿Son los métodos empíricos de Bayes realmente bayesianos?

Es un híbrido: utiliza el teorema de Bayes para los parámetros a nivel de grupo, pero estima la distribución a priori a partir de los datos en lugar de especificarla de antemano, lo que aproxima un modelo jerárquico completo, aunque generalmente subestima la incertidumbre en la distribución a priori.