Inferencia probabilística

La inferencia probabilística es el cálculo de la probabilidad de variables de consulta dadas las pruebas observadas en un modelo probabilístico, la tarea central de razonamiento sobre redes bayesianas y de Markov.

Definition

La inferencia probabilística calcula una distribución posterior, como la probabilidad de una o más variables de consulta condicionadas a la evidencia observada, a partir de un modelo probabilístico especificado, ya sea de forma exacta o por aproximación.

Scope

Este tema abarca los algoritmos que responden a consultas probabilísticas en modelos gráficos: métodos exactos como la eliminación de variables, la propagación de creencias en árboles y el algoritmo de árbol de unión (árbol de cliques); y métodos aproximados como la propagación de creencias en bucle y el muestreo de Monte Carlo (muestreo por rechazo, ponderación de verosimilitud y cadena de Markov Monte Carlo). Aborda la dificultad computacional de la inferencia y las compensaciones entre exactitud y escalabilidad. La estructura de los modelos en sí se cubre en redes bayesianas.

Core questions

• ¿Cómo se calcula una probabilidad condicional o marginal a partir de un modelo conjunto sin enumerar la distribución completa?
• ¿Cómo explota la eliminación de variables la factorización para calcular respuestas exactas de manera eficiente?
• ¿Cuándo es intratable la inferencia exacta y qué métodos aproximados se utilizan en su lugar?
• ¿Cómo estiman los métodos basados en muestreo las probabilidades posteriores?

Key concepts

• consultas marginales y condicionales
• eliminación de variables
• propagación de creencias (paso de mensajes)
• árbol de unión y ancho de árbol
• propagación de creencias en bucle
• muestreo por rechazo y ponderación de verosimilitud
• cadena de Markov Monte Carlo
• inferencia exacta vs. aproximada

Key theories

Propagación de creencias

En redes con estructura de árbol, las posteriores exactas se pueden calcular pasando mensajes locales entre nodos vecinos; la propagación de creencias de Pearl realiza este cálculo distribuido y, aplicada a grafos con bucles, proporciona un método de inferencia aproximada ampliamente utilizado.

Inferencia de árbol de unión (árbol de cliques)

La inferencia exacta en redes generales se puede organizar agrupando variables en un árbol de cliques y propagando mensajes sobre él, dando respuestas correctas en un tiempo exponencial solo en el clique más grande (el ancho del árbol).

Inferencia aproximada por muestreo

Cuando la inferencia exacta es inviable, los métodos de Monte Carlo, como la ponderación de verosimilitud y la cadena de Markov Monte Carlo, extraen muestras consistentes con la evidencia para estimar las probabilidades posteriores, intercambiando la exactitud garantizada por la escalabilidad.

Clinical relevance

Los algoritmos de inferencia son lo que hace que los modelos probabilísticos sean utilizables: impulsan los sistemas de diagnóstico y apoyo a la decisión, los códigos de corrección de errores (mediante la propagación de creencias), la visión por computadora, el reconocimiento de voz y la bioinformática, al calcular las probabilidades de variables ocultas dados los datos observados.

History

La propagación de creencias de Pearl (década de 1980) proporcionó una inferencia exacta para redes de árboles, y el método de árbol de unión de Lauritzen y Spiegelhalter de 1988 extendió la inferencia exacta a redes generales mediante cálculos locales en cliques. El reconocimiento de que la inferencia exacta es NP-difícil en general impulsó un extenso trabajo sobre muestreo y aproximaciones variacionales.

Key figures

• Judea Pearl
• Steffen L. Lauritzen
• David J. Spiegelhalter
• Daphne Koller

Seminal works

• pearl1986
• lauritzen1988

Frequently asked questions

¿Es siempre tratable la inferencia probabilística?

No. La inferencia exacta en redes bayesianas generales es NP-difícil, y su costo aumenta con el ancho del árbol de la red. Para redes que son árboles o tienen un ancho de árbol bajo, la inferencia exacta es eficiente; de lo contrario, se utilizan métodos aproximados como el muestreo o la propagación de creencias en bucle.

¿Cuál es la diferencia entre inferencia exacta y aproximada?

La inferencia exacta, como la eliminación de variables o el algoritmo de árbol de unión, calcula las probabilidades posteriores verdaderas. La inferencia aproximada, como el muestreo de Monte Carlo o la propagación de creencias en bucle, las estima, lo cual es necesario cuando el cálculo exacto es demasiado costoso para un modelo grande o densamente conectado.