Priors Fracamente Informativos e Regularizadores

Priors fracamente informativos são priors próprios deliberadamente brandos que excluem valores de parâmetros implausíveis e estabilizam a estimação sem impor fortes crenças substantivas.

Definition

Um prior fracamente informativo é um prior próprio escolhido para ser amplo na escala de valores de parâmetros plausíveis, fornecendo informação suficiente para regularizar a posteriori e melhorar a computação, permanecendo, contudo, não comprometido com o valor específico dentro desse intervalo.

Scope

Este tópico aborda a justificativa para priors fracamente informativos em detrimento de priors planos, seus efeitos de regularização e encolhimento (shrinkage), escolhas padrão para coeficientes de regressão e parâmetros de escala, e priors indutores de esparsidade, como o horseshoe e o Bayesian Lasso.

Core questions

• Por que priors fracamente informativos são preferidos a priors planos ou impróprios na prática?
• Como os priors regularizam as estimativas e as encolhem (shrink) em direção a valores plausíveis?
• Quais priors padrão são recomendados para coeficientes de regressão e parâmetros de variância?
• Como os priors de esparsidade, como o horseshoe, lidam com muitos coeficientes potencialmente nulos?

Key concepts

• prior fracamente informativo
• regularização
• encolhimento (shrinkage)
• prior horseshoe
• Bayesian Lasso
• prior de escala
• separação

Key theories

Regularização via priors

Um prior com escala finita penaliza estimativas extremas, reduzindo a variância e prevenindo problemas de separação; muitos estimadores de verossimilhança penalizada correspondem a modos posteriores sob priors específicos.

Encolhimento global-local

Priors de esparsidade, como o horseshoe, usam uma escala local de cauda pesada e uma escala global para que coeficientes pequenos sejam fortemente encolhidos, enquanto sinais grandes escapam do encolhimento.

Clinical relevance

Priors regularizadores estabilizam estimativas em problemas de alta dimensão e esparsos, como genômica e seleção de biomarcadores, e previnem estimativas divergentes quando os dados identificam os parâmetros de forma apenas fraca.

History

À medida que a computação Bayesiana se tornou rotineira nos anos 2000, a atenção mudou de priors planos 'não informativos' para padrões fracamente informativos que melhoram tanto a inferência quanto a amostragem. Priors de esparsidade, incluindo o Bayesian Lasso e o estimador horseshoe de 2010, estenderam esse pensamento para a regressão de alta dimensão.

Debates

Quão fraco deve ser um prior padrão?

Há uma discussão contínua sobre como definir a escala de priors fracamente informativos para que regularizem de forma útil sem enviesar inadvertidamente as conclusões na escala relevante.

Key figures

• Andrew Gelman
• Nicholas Polson
• James Scott
• Carlos Carvalho

Seminal works

• gelman2008
• carvalho2010

Frequently asked questions

Como um prior fracamente informativo difere de um não informativo?

Um prior não informativo tenta adicionar o mínimo de informação possível e pode ser impróprio, enquanto um prior fracamente informativo é próprio e adiciona intencionalmente informações brandas para excluir valores implausíveis e estabilizar a análise.