Priors débilmente informativos y regularizadores

Los priors débilmente informativos son priors propios, deliberadamente suaves, que descartan valores de parámetros inverosímiles y estabilizan la estimación sin imponer creencias sustantivas fuertes.

Definition

Un prior débilmente informativo es un prior propio elegido para ser amplio en la escala de valores de parámetros plausibles, proporcionando suficiente información para regularizar la posterior y mejorar el cálculo, sin comprometerse con el valor específico dentro de ese rango.

Scope

Este tema abarca la justificación de los priors débilmente informativos sobre los priors planos, sus efectos regularizadores y de contracción, las elecciones predeterminadas para los coeficientes de regresión y los parámetros de escala, y los priors que inducen escasez, como el horseshoe y el Lasso bayesiano.

Core questions

• ¿Por qué se prefieren los priors débilmente informativos a los priors planos o impropios en la práctica?
• ¿Cómo regularizan los priors las estimaciones y las contraen hacia valores plausibles?
• ¿Qué priors predeterminados se recomiendan para los coeficientes de regresión y los parámetros de varianza?
• ¿Cómo manejan los priors de escasez, como el horseshoe, muchos coeficientes potencialmente nulos?

Key concepts

• prior débilmente informativo
• regularización
• contracción
• prior horseshoe
• Lasso bayesiano
• prior de escala
• separación

Key theories

Regularización mediante priors

Un prior con escala finita penaliza las estimaciones extremas, reduciendo la varianza y previniendo problemas de separación; muchos estimadores de verosimilitud penalizada corresponden a modos posteriores bajo priors específicos.

Contracción global-local

Los priors de escasez, como el horseshoe, utilizan una escala local de cola pesada y una escala global para que los coeficientes pequeños se contraigan fuertemente mientras que las señales grandes escapan a la contracción.

Clinical relevance

Los priors regularizadores estabilizan las estimaciones en problemas de alta dimensión y dispersos, como la genómica y la selección de biomarcadores, y previenen estimaciones divergentes cuando los datos solo identifican débilmente los parámetros.

History

A medida que el cálculo bayesiano se volvió rutinario en la década de 2000, la atención se desplazó de los priors planos 'no informativos' a los priors predeterminados débilmente informativos que mejoran tanto la inferencia como el muestreo. Los priors de escasez, incluidos el Lasso bayesiano y el estimador horseshoe de 2010, extendieron este pensamiento a la regresión de alta dimensión.

Debates

¿Cuán débil debe ser un prior predeterminado?

Existe una discusión continua sobre cómo establecer la escala de los priors débilmente informativos para que regularicen de manera útil sin sesgar involuntariamente las conclusiones en la escala relevante.

Key figures

• Andrew Gelman
• Nicholas Polson
• James Scott
• Carlos Carvalho

Seminal works

• gelman2008
• carvalho2010

Frequently asked questions

¿En qué se diferencia un prior débilmente informativo de uno no informativo?

Un prior no informativo intenta añadir la menor cantidad de información posible y puede ser impropio, mientras que un prior débilmente informativo es propio y añade intencionalmente información suave para excluir valores inverosímiles y estabilizar el análisis.