Técnicas de Reducción de Varianza

Las técnicas de reducción de varianza son mecanismos que disminuyen la varianza de muestreo de un estimador de Monte Carlo, de modo que se alcanza una precisión objetivo con menos extracciones simuladas de las que requeriría el muestreo ingenuo.

Definition

Una técnica de reducción de varianza es una modificación de un esquema de muestreo o estimador de Monte Carlo que disminuye la varianza de la estimación resultante, manteniéndola insesgada o consistente para la misma cantidad objetivo.

Scope

Este tema abarca los principales esquemas clásicos: números aleatorios comunes y antitéticos, variables de control, muestreo por importancia visto como un dispositivo de reducción de varianza, muestreo estratificado y de hipercubo latino, y condicionamiento (Rao-Blackwellization). El énfasis está en la reducción sin sesgos de la varianza del estimador y en las condiciones bajo las cuales cada esquema es útil.

Core questions

• ¿Cómo explotan los números aleatorios antitéticos y comunes la correlación para cancelar la varianza?
• ¿Cómo utiliza una variable de control una cantidad correlacionada con media conocida para ajustar un estimador?
• ¿Por qué la reponderación de muestras mediante el muestreo por importancia puede reducir la varianza, y cuándo resulta contraproducente?
• ¿Cómo reducen la varianza la estratificación y el condicionamiento, y qué costo implican?

Key concepts

• Variables antitéticas
• Variables de control
• Números aleatorios comunes
• Muestreo estratificado
• Rao-Blackwellization
• Tamaño de muestra efectivo

Key theories

Reducción basada en la correlación

Las variables antitéticas inducen una correlación negativa entre extracciones emparejadas, y las variables de control restan una cantidad correlacionada con una expectativa conocida; ambas reducen la varianza en proporción a la fuerza de la correlación explotada.

Reponderación y estratificación

El muestreo por importancia desplaza el esfuerzo de simulación hacia regiones influyentes mediante un cambio de medida, mientras que los diseños estratificados y de hipercubo latino distribuyen las extracciones uniformemente por el espacio de entrada; cada uno puede reducir drásticamente la varianza cuando se ajusta al integrando.

Clinical relevance

La reducción de varianza es lo que hace factibles los grandes estudios de simulación, la estimación de eventos raros y los costosos cálculos bayesianos: al reducir el número de extracciones necesarias para una precisión dada, disminuye el tiempo de computación, y técnicas como los números aleatorios comunes agudizan las comparaciones entre sistemas o estimadores en competencia.

History

El conjunto de herramientas clásico de reducción de varianza (variables antitéticas, variables de control, muestreo por importancia, estratificación) se desarrolló a mediados del siglo XX junto con las primeras aplicaciones a gran escala de Monte Carlo, y posteriormente se unificó con ideas de condicionamiento como la Rao-Blackwellization dentro de la literatura de simulación estadística.

Key figures

• Christian P. Robert
• George Casella
• John M. Hammersley

Seminal works

• robert2004
• givens2013

Frequently asked questions

¿Las técnicas de reducción de varianza cambian la cantidad que se está estimando?

No. Aplicadas correctamente, apuntan a la misma expectativa y permanecen insesgadas o consistentes; solo reorganizan cómo entra la aleatoriedad para que el estimador fluctúe menos alrededor del valor verdadero.

¿Puede una técnica de reducción de varianza empeorar las cosas?

Sí. Una variable de control débilmente correlacionada con el integrando, o una densidad de importancia que no coincide con el objetivo, puede aumentar la varianza. El beneficio depende de la adecuación de la técnica a la estructura del problema.