Fatores de Bayes e Verossimilhança Marginal

A verossimilhança marginal é a probabilidade dos dados sob um modelo após a integração de seus parâmetros, e a razão de duas verossimilhanças marginais, o fator de Bayes, mede a evidência entre os modelos.

Definition

A verossimilhança marginal de um modelo é a integral da verossimilhança sobre a prior; o fator de Bayes entre dois modelos é a razão de suas verossimilhanças marginais e, multiplicado pelas chances a priori (prior odds), fornece as chances a posteriori (posterior odds) a favor de um modelo.

Scope

Este tópico abrange a definição e interpretação da verossimilhança marginal, o fator de Bayes e sua calibração em categorias de evidência, sua penalização automática da complexidade, o paradoxo de Jeffreys-Lindley que demonstra a sensibilidade a priors difusos, e métodos computacionais como a amostragem em ponte (bridge sampling).

Core questions

• O que é a verossimilhança marginal e como ela incorpora uma navalha de Occam automática?
• Como um fator de Bayes é interpretado como força de evidência?
• Por que os fatores de Bayes são sensíveis à escolha da prior, como demonstrado pelo paradoxo de Jeffreys-Lindley?
• Como a verossimilhança marginal é calculada na prática?

Key concepts

• verossimilhança marginal
• fator de Bayes
• chances a posteriori
• navalha de Occam
• paradoxo de Jeffreys-Lindley
• amostragem em ponte
• sensibilidade da prior

Key theories

Fator de Bayes como evidência

O fator de Bayes converte as chances a priori em chances a posteriori e é lido em escalas calibradas como o peso da evidência que os dados fornecem para um modelo em detrimento de outro.

Paradoxo de Jeffreys-Lindley

Como a verossimilhança marginal depende da dispersão da prior, uma prior arbitrariamente difusa pode forçar o fator de Bayes a favorecer o modelo mais simples, independentemente dos dados, portanto, priors impróprias não devem ser usadas para comparação de modelos.

Clinical relevance

Os fatores de Bayes fornecem uma medida fundamentada de evidência utilizada em genética, psicologia e física para comparar hipóteses, mas sua dependência da prior significa que devem ser relatados com as priors que os produziram.

History

Jeffreys desenvolveu os fatores de Bayes para testes de hipóteses na década de 1930; o paradoxo de Lindley de 1957 expôs sua sensibilidade a priors difusos. A revisão de Kass e Raftery de 1995 padronizou sua interpretação e pesquisou abordagens computacionais.

Debates

Uso de priors impróprias ou vagas

Como a verossimilhança marginal é indefinida para priors impróprias e instável para priors muito difusas, há debate sobre priors padrão para comparação de modelos e se os fatores de Bayes são apropriados em tais contextos.

Key figures

• Harold Jeffreys
• Dennis Lindley
• Robert Kass
• Adrian Raftery

Seminal works

• kass1995
• lindley1957

Frequently asked questions

Posso usar uma prior não informativa para calcular um fator de Bayes?

Geralmente não: priors impróprias deixam a verossimilhança marginal indefinida e priors próprias muito difusas tendem a enviesar o fator de Bayes para o modelo mais simples, a essência do paradoxo de Jeffreys-Lindley, portanto, os fatores de Bayes requerem priors próprias cuidadosamente escolhidas.