Factores de Bayes y verosimilitud marginal

La verosimilitud marginal es la probabilidad de los datos bajo un modelo después de integrar sus parámetros, y la razón de dos verosimilitudes marginales, el factor de Bayes, mide la evidencia entre modelos.

Definition

La verosimilitud marginal de un modelo es la integral de la verosimilitud sobre el prior; el factor de Bayes entre dos modelos es la razón de sus verosimilitudes marginales y, multiplicado por las probabilidades previas (prior odds), da las probabilidades posteriores (posterior odds) a favor de un modelo.

Scope

Este tema abarca la definición e interpretación de la verosimilitud marginal, el factor de Bayes y su calibración en categorías de evidencia, su penalización automática de la complejidad, la paradoja de Jeffreys-Lindley que muestra sensibilidad a los priors difusos, y métodos computacionales como el muestreo de puente (bridge sampling).

Core questions

• ¿Qué es la verosimilitud marginal y cómo incorpora una navaja de Occam automática?
• ¿Cómo se interpreta un factor de Bayes como fuerza de evidencia?
• ¿Por qué los factores de Bayes son sensibles a la elección del prior, como lo demuestra la paradoja de Jeffreys-Lindley?
• ¿Cómo se calcula la verosimilitud marginal en la práctica?

Key concepts

• verosimilitud marginal
• factor de Bayes
• probabilidades posteriores
• navaja de Occam
• paradoja de Jeffreys-Lindley
• muestreo de puente
• sensibilidad del prior

Key theories

Factor de Bayes como evidencia

El factor de Bayes convierte las probabilidades previas en probabilidades posteriores y se lee en escalas calibradas como el peso de la evidencia que los datos proporcionan para un modelo sobre otro.

Paradoja de Jeffreys-Lindley

Debido a que la verosimilitud marginal depende de la dispersión del prior, un prior arbitrariamente difuso puede forzar al factor de Bayes a favorecer el modelo más simple independientemente de los datos, por lo que los priors impropios no deben usarse para la comparación de modelos.

Clinical relevance

Los factores de Bayes proporcionan una medida fundamentada de la evidencia utilizada en genética, psicología y física para comparar hipótesis, pero su dependencia del prior significa que deben ser reportados con los priors que los produjeron.

History

Jeffreys desarrolló los factores de Bayes para la prueba de hipótesis en la década de 1930; la paradoja de Lindley de 1957 expuso su sensibilidad a los priors difusos. La revisión de Kass y Raftery de 1995 estandarizó su interpretación y examinó los enfoques computacionales.

Debates

Uso de priors impropios o vagos

Debido a que la verosimilitud marginal no está definida para priors impropios y es inestable para priors muy difusos, existe un debate sobre los priors por defecto para la comparación de modelos y si los factores de Bayes son apropiados en tales configuraciones.

Key figures

• Harold Jeffreys
• Dennis Lindley
• Robert Kass
• Adrian Raftery

Seminal works

• kass1995
• lindley1957

Frequently asked questions

¿Puedo usar un prior no informativo para calcular un factor de Bayes?

Generalmente no: los priors impropios dejan la verosimilitud marginal indefinida y los priors propios muy difusos sesgan el factor de Bayes hacia el modelo más simple, la esencia de la paradoja de Jeffreys-Lindley, por lo que los factores de Bayes requieren priors propios cuidadosamente elegidos.