Muestreo por importancia
El muestreo por importancia estima una expectativa bajo una distribución objetivo extrayendo de una distribución propuesta diferente y más conveniente, y corrigiendo cada extracción con un peso igual a la razón de la densidad objetivo a la propuesta.
Definition
El muestreo por importancia es una técnica de Monte Carlo que estima la expectativa de una función bajo una densidad objetivo promediando la función multiplicada por un peso de importancia sobre muestras extraídas de una densidad propuesta.
Scope
Este tema cubre la identidad del muestreo por importancia y el estimador ponderado resultante, la elección de la propuesta y su efecto en la varianza del peso, el estimador auto-normalizado utilizado cuando las densidades se conocen solo hasta una constante, el papel diagnóstico del tamaño efectivo de la muestra y las patologías de los pesos con colas pesadas. Se conecta con la reducción de la varianza y con los métodos de partículas.
Core questions
- ¿Cómo la reponderación de muestras de una propuesta recupera una expectativa bajo el objetivo?
- ¿Qué elección de propuesta minimiza la varianza del estimador de muestreo por importancia?
- ¿Cómo se utiliza el muestreo por importancia auto-normalizado cuando solo se dispone de densidades no normalizadas?
- ¿Cómo diagnostica el tamaño efectivo de la muestra la degeneración del peso?
Key concepts
- Pesos de importancia
- Distribución propuesta
- Estimador auto-normalizado
- Tamaño efectivo de la muestra
- Degeneración del peso
Key theories
- Identidad del muestreo por importancia
- Una expectativa bajo el objetivo es igual a la expectativa bajo la propuesta de la función multiplicada por la razón de densidad, por lo que la media muestral ponderada estima la expectativa objetivo sin sesgo cuando la propuesta cubre el soporte del objetivo.
- Propuesta óptima y varianza del peso
- La varianza del estimador se minimiza con una propuesta proporcional al integrando absoluto, y en la práctica, las propuestas desajustadas o con colas ligeras producen unos pocos pesos dominantes que inflan la varianza, medida por un tamaño efectivo de muestra bajo.
Clinical relevance
El muestreo por importancia permite la estimación de probabilidades de eventos raros, verosimilitudes marginales y expectativas posteriores, permite reutilizar una sola muestra para evaluar muchos objetivos relacionados y subyace a los filtros secuenciales de Monte Carlo (de partículas) utilizados en modelos de espacio de estados y series temporales.
History
El muestreo por importancia surgió en la práctica de Monte Carlo de mediados del siglo XX como un dispositivo de reducción de varianza y fue desarrollado posteriormente por estadísticos en formas auto-normalizadas y adaptativas, convirtiéndose en un componente central de Monte Carlo secuencial y la computación bayesiana moderna.
Key figures
- Christian P. Robert
- George Casella
- Geneva Hoeting
Related topics
Seminal works
- robert2004
- givens2013
Frequently asked questions
- ¿Por qué usar una distribución propuesta en lugar de muestrear el objetivo directamente?
- A menudo, el objetivo no se puede muestrear fácilmente, o se desea concentrar las extracciones en una región importante, como una cola de eventos raros. El muestreo por importancia permite muestrear una distribución conveniente y corregir el desajuste con pesos.
- ¿Qué sale mal si la propuesta se elige incorrectamente?
- Si la propuesta tiene colas más ligeras que el objetivo, unas pocas muestras reciben pesos enormes y dominan la estimación, lo que da una varianza alta o incluso infinita. El diagnóstico del tamaño efectivo de la muestra señala esta degeneración.