Xác suất và Cập nhật Bayes

Xác suất mang tất cả thông tin mà dữ liệu cung cấp về các tham số, và cập nhật Bayes biến hậu nghiệm của ngày hôm qua thành tiền nghiệm của ngày hôm nay khi bằng chứng tích lũy.

Definition

Xác suất là mật độ lấy mẫu của dữ liệu quan sát được xem như một hàm của các tham số; cập nhật Bayes là việc áp dụng lặp đi lặp lại định lý Bayes để thông tin từ các quan sát liên tiếp được kết hợp thành một hậu nghiệm duy nhất.

Scope

Chủ đề này bao gồm hàm xác suất và nguyên lý xác suất, bản chất tuần tự của cập nhật Bayes trong đó hậu nghiệm từ một lô dữ liệu trở thành tiền nghiệm cho lô tiếp theo, và tính nhất quán của việc cập nhật dưới các quan sát có thể hoán đổi.

Core questions

• Hàm xác suất là gì và tại sao nó lại trung tâm đối với suy luận?
• Nguyên lý xác suất khẳng định điều gì, và suy luận Bayes thỏa mãn nó như thế nào?
• Hậu nghiệm từ một tập dữ liệu đóng vai trò tiền nghiệm cho tập dữ liệu tiếp theo như thế nào?
• Tại sao cập nhật Bayes tuần tự lại không phụ thuộc vào thứ tự đối với dữ liệu có thể hoán đổi?

Key concepts

• hàm xác suất
• nguyên lý xác suất
• tính đủ
• cập nhật tuần tự
• đệ quy tiền nghiệm-hậu nghiệm
• tích lũy bằng chứng

Key theories

Nguyên lý xác suất

Hai thí nghiệm tạo ra các hàm xác suất tỷ lệ cho cùng một tham số mang cùng thông tin bằng chứng; suy luận Bayes tự động tuân thủ nguyên lý này.

Cập nhật tuần tự

Việc áp dụng định lý Bayes lặp đi lặp lại tương đương với việc áp dụng nó một lần cho dữ liệu tổng hợp, do đó niềm tin có thể được sửa đổi trực tuyến mà không cần lưu trữ toàn bộ tập dữ liệu.

Clinical relevance

Cập nhật tuần tự hỗ trợ các phân tích thích ứng và tạm thời trong các thử nghiệm lâm sàng, hệ thống học trực tuyến, và bất kỳ thiết lập nào mà dữ liệu đến theo luồng và niềm tin phải được sửa đổi liên tục.

History

Fisher đã giới thiệu xác suất như một khái niệm riêng biệt vào những năm 1920; phân tích năm 1962 của Birnbaum đã hình thức hóa nguyên lý xác suất từ tính đủ và tính điều kiện. Lý thuyết Bayes đã tiếp thu những ý tưởng này, định hình việc cập nhật như là điều kiện lặp đi lặp lại.

Debates

Tình trạng của nguyên lý xác suất

Việc nguyên lý xác suất có nên ràng buộc tất cả các suy luận hay không vẫn còn gây tranh cãi, vì nhiều thủ tục thường xuyên (chẳng hạn như những thủ tục sử dụng quy tắc dừng) vi phạm nó trong khi các phương pháp Bayes thì không.

Key figures

• Ronald A. Fisher
• Allan Birnbaum
• George Barnard

Seminal works

• birnbaum1962
• robert2007

Frequently asked questions

Thứ tự tôi cập nhật trên các điểm dữ liệu khác nhau có quan trọng không?

Đối với các quan sát có thể hoán đổi, hậu nghiệm cuối cùng là như nhau bất kể thứ tự xử lý dữ liệu, vì cập nhật Bayes có tính kết hợp và tương đương với việc điều kiện hóa trên tất cả dữ liệu cùng một lúc.