Técnicas de Redução de Variância

Técnicas de redução de variância são dispositivos que diminuem a variância amostral de um estimador de Monte Carlo, de modo que uma precisão alvo seja alcançada com menos amostras simuladas do que o amostragem ingênua exigiria.

Definition

Uma técnica de redução de variância é uma modificação de um esquema de amostragem de Monte Carlo ou estimador que diminui a variância da estimativa resultante, mantendo-a não viesada ou consistente para a mesma quantidade alvo.

Scope

Este tópico abrange os principais esquemas clássicos: números aleatórios comuns e antitéticos, variáveis de controle, amostragem por importância vista como um dispositivo de redução de variância, amostragem estratificada e de hipercubo latino, e condicionamento (Rao-Blackwellização). A ênfase está na redução sem viés da variância do estimador e nas condições sob as quais cada esquema ajuda.

Core questions

• Como os números aleatórios antitéticos e comuns exploram a correlação para cancelar a variância?
• Como uma variável de controle usa uma quantidade correlacionada com média conhecida para ajustar um estimador?
• Por que a reponderação de amostras através da amostragem por importância pode reduzir a variância, e quando isso pode ser contraproducente?
• Como a estratificação e o condicionamento diminuem a variância, e quais são seus custos?

Key concepts

• Variáveis antitéticas
• Variáveis de controle
• Números aleatórios comuns
• Amostragem estratificada
• Rao-Blackwellização
• Tamanho efetivo da amostra

Key theories

Redução baseada em correlação

Variáveis antitéticas induzem correlação negativa entre amostras pareadas, e variáveis de controle subtraem uma quantidade correlacionada com expectativa conhecida; ambas reduzem a variância em proporção à força da correlação explorada.

Reponderação e estratificação

A amostragem por importância desloca o esforço de simulação para regiões influentes através de uma mudança de medida, enquanto os desenhos estratificados e de hipercubo latino distribuem as amostras uniformemente pelo espaço de entrada; cada um pode reduzir drasticamente a variância quando combinado com o integrando.

Clinical relevance

A redução de variância é o que torna viáveis grandes estudos de simulação, estimativas de eventos raros e computações Bayesianas caras: ao reduzir o número de amostras necessárias para uma dada precisão, diminui o tempo de computação, e técnicas como números aleatórios comuns aprimoram as comparações entre sistemas ou estimadores concorrentes.

History

O conjunto de ferramentas clássicas de redução de variância (variáveis antitéticas, variáveis de controle, amostragem por importância, estratificação) foi desenvolvido em meados do século XX, juntamente com as primeiras aplicações de Monte Carlo em larga escala, e foi posteriormente unificado com ideias de condicionamento, como a Rao-Blackwellização, dentro da literatura de simulação estatística.

Key figures

• Christian P. Robert
• George Casella
• John M. Hammersley

Seminal works

• robert2004
• givens2013

Frequently asked questions

As técnicas de redução de variância alteram a quantidade que está sendo estimada?

Não. Quando aplicadas corretamente, elas visam a mesma expectativa e permanecem não viesadas ou consistentes; elas apenas reorganizam como a aleatoriedade entra para que o estimador flutue menos em torno do valor verdadeiro.

Uma técnica de redução de variância pode piorar as coisas?

Sim. Uma variável de controle fracamente correlacionada com o integrando, ou uma densidade de importância incompatível com o alvo, pode aumentar a variância. O benefício depende da adequação da técnica à estrutura do problema.