Teorema de Bayes e a Posteriori

O teorema de Bayes expressa a distribuição a posteriori de parâmetros desconhecidos como proporcional à verossimilhança dos dados vezes a priori, fornecendo o motor de toda a inferência bayesiana.

Definition

O teorema de Bayes afirma que a densidade a posteriori p(theta | y) é igual à verossimilhança p(y | theta) vezes a priori p(theta) dividida pela verossimilhança marginal p(y); como p(y) não depende de theta, a posteriori é frequentemente escrita como proporcional à verossimilhança vezes a priori.

Scope

Este tópico abrange a formulação e derivação do teorema de Bayes para inferência, a forma de proporcionalidade, a verossimilhança marginal que normaliza a posteriori, e como são obtidos resumos como médias a posteriori, intervalos de credibilidade e a distribuição preditiva a posteriori.

Core questions

• Como a distribuição a posteriori é derivada da priori e da verossimilhança?
• O que é a verossimilhança marginal e por que ela atua como uma constante de normalização?
• Como as estimativas pontuais e os intervalos de credibilidade são extraídos de uma posteriori?
• O que é a distribuição preditiva a posteriori e como ela é calculada?

Key concepts

• priori
• verossimilhança
• posteriori
• verossimilhança marginal
• intervalo de credibilidade
• distribuição preditiva a posteriori
• constante de normalização

Key theories

Proporcionalidade a posteriori

Como a verossimilhança marginal é constante no parâmetro, a inferência depende apenas do produto da verossimilhança e da priori até a normalização, que é a forma explorada pela maioria dos métodos computacionais.

Distribuição preditiva a posteriori

Dados futuros ou replicados são previstos pela média da distribuição amostral sobre a posteriori, integrando a incerteza do parâmetro em vez de inserir uma estimativa pontual.

Clinical relevance

A inferência a posteriori é utilizada sempre que uma quantidade de interesse deve ser estimada com incerteza calibrada, incluindo a interpretação de testes diagnósticos, a estimação de parâmetros nas ciências físicas e a previsão probabilística.

History

A regra tem origem no ensaio de Bayes de 1763 e foi generalizada por Laplace no método da probabilidade inversa. A ênfase moderna na distribuição a posteriori completa, em vez de uma única estimativa de probabilidade inversa, foi consolidada na literatura bayesiana do século XX.

Key figures

• Thomas Bayes
• Pierre-Simon Laplace
• Harold Jeffreys

Seminal works

• gelman2013
• bayes1763

Frequently asked questions

O que é um intervalo de credibilidade?

Um intervalo de credibilidade é um intervalo que contém o parâmetro com uma probabilidade a posteriori declarada (por exemplo, 95%); ao contrário de um intervalo de confiança frequentista, é uma declaração de probabilidade direta sobre o parâmetro dados os dados e a priori.

Por que a posteriori pode ser escrita sem calcular a verossimilhança marginal?

A verossimilhança marginal é uma constante em relação ao parâmetro, então ela apenas reescala a posteriori; muitos algoritmos, como MCMC, precisam da posteriori apenas até esta constante.