Định lý Bayes và phân bố hậu nghiệm

Định lý Bayes biểu thị phân bố hậu nghiệm của các tham số chưa biết tỷ lệ thuận với khả năng xảy ra của dữ liệu nhân với phân bố tiên nghiệm, cung cấp nền tảng cho mọi suy luận Bayes.

Definition

Định lý Bayes phát biểu rằng mật độ hậu nghiệm p(theta | y) bằng khả năng xảy ra p(y | theta) nhân với phân bố tiên nghiệm p(theta) chia cho khả năng xảy ra biên p(y); vì p(y) không phụ thuộc vào theta, phân bố hậu nghiệm thường được viết dưới dạng tỷ lệ thuận với khả năng xảy ra nhân với phân bố tiên nghiệm.

Scope

Chủ đề này bao gồm phát biểu và dẫn xuất định lý Bayes cho suy luận, dạng tỷ lệ, khả năng xảy ra biên (marginal likelihood) chuẩn hóa phân bố hậu nghiệm, và cách thu được các tóm tắt như giá trị trung bình hậu nghiệm, khoảng tin cậy (credible intervals), và phân bố dự đoán hậu nghiệm.

Core questions

• Phân bố hậu nghiệm được suy ra từ phân bố tiên nghiệm và khả năng xảy ra như thế nào?
• Khả năng xảy ra biên là gì và tại sao nó đóng vai trò là hằng số chuẩn hóa?
• Các ước tính điểm và khoảng tin cậy được trích xuất từ phân bố hậu nghiệm như thế nào?
• Phân bố dự đoán hậu nghiệm là gì và nó được tính toán như thế nào?

Key concepts

• phân bố tiên nghiệm
• khả năng xảy ra
• phân bố hậu nghiệm
• khả năng xảy ra biên
• khoảng tin cậy
• phân bố dự đoán hậu nghiệm
• hằng số chuẩn hóa

Key theories

Tính tỷ lệ của phân bố hậu nghiệm

Vì khả năng xảy ra biên là hằng số đối với tham số, suy luận chỉ phụ thuộc vào tích của khả năng xảy ra và phân bố tiên nghiệm cho đến khi chuẩn hóa, đây là dạng được hầu hết các phương pháp tính toán khai thác.

Phân bố dự đoán hậu nghiệm

Dữ liệu tương lai hoặc dữ liệu được tái tạo được dự đoán bằng cách lấy trung bình phân bố lấy mẫu trên phân bố hậu nghiệm, tích hợp sự bất định của tham số thay vì đưa vào một ước tính điểm.

Clinical relevance

Suy luận hậu nghiệm được sử dụng ở bất cứ nơi nào cần ước tính một đại lượng quan tâm với độ bất định đã được hiệu chỉnh, bao gồm diễn giải xét nghiệm chẩn đoán, ước tính tham số trong khoa học vật lý và dự báo xác suất.

History

Quy tắc này có nguồn gốc từ tiểu luận năm 1763 của Bayes và được Laplace khái quát hóa thành phương pháp xác suất nghịch đảo. Sự nhấn mạnh hiện đại vào toàn bộ phân bố hậu nghiệm, thay vì một ước tính xác suất nghịch đảo duy nhất, đã được củng cố trong các tài liệu Bayes thế kỷ 20.

Key figures

• Thomas Bayes
• Pierre-Simon Laplace
• Harold Jeffreys

Seminal works

• gelman2013
• bayes1763

Frequently asked questions

Khoảng tin cậy là gì?

Khoảng tin cậy là một khoảng chứa tham số với một xác suất hậu nghiệm đã nêu (ví dụ 95%); không giống như khoảng tin cậy theo tần suất, nó là một phát biểu xác suất trực tiếp về tham số dựa trên dữ liệu và phân bố tiên nghiệm.

Tại sao phân bố hậu nghiệm có thể được viết mà không cần tính toán khả năng xảy ra biên?

Khả năng xảy ra biên là một hằng số đối với tham số, vì vậy nó chỉ thay đổi tỷ lệ của phân bố hậu nghiệm; nhiều thuật toán như MCMC chỉ cần phân bố hậu nghiệm cho đến hằng số này.