Mạng Bayes

Mạng Bayes là một đồ thị có hướng không chu trình (directed acyclic graph) với các nút là các biến ngẫu nhiên và các cạnh mã hóa các phụ thuộc có điều kiện, cung cấp một biểu diễn cô đọng của phân phối xác suất đồng thời.

Definition

Mạng Bayes là một mô hình đồ họa xác suất bao gồm một đồ thị có hướng không chu trình trên các biến ngẫu nhiên cùng với một phân phối xác suất có điều kiện cho mỗi biến với điều kiện là các biến cha của nó, cùng nhau định nghĩa một phân phối đầy đủ trên tất cả các biến.

Scope

Chủ đề này bao gồm cấu trúc và ngữ nghĩa của mạng Bayes (mạng niềm tin): đồ thị có hướng không chu trình, các phân phối xác suất có điều kiện cục bộ, sự phân tích nhân tử theo quy tắc chuỗi của phân phối đồng thời, và các mối quan hệ độc lập mà chúng mã hóa (điều kiện Markov và d-tách biệt). Nó đề cập đến cách một mạng được đọc như một mô hình độc lập có điều kiện và cách nó lưu trữ một phân phối lớn theo cấp số nhân một cách cô đọng. Các thuật toán suy luận trên các mạng này được xử lý trong chủ đề suy luận xác suất liên quan, và việc học cấu trúc hoặc tham số của chúng từ dữ liệu thuộc về lĩnh vực con học máy.

Core questions

• Làm thế nào một đồ thị có hướng không chu trình cộng với các phân phối có điều kiện cục bộ có thể xác định một phân phối đồng thời đầy đủ?
• Cấu trúc của mạng mã hóa những mối quan hệ độc lập có điều kiện nào?
• Làm thế nào d-tách biệt xác định liệu hai biến có độc lập với điều kiện bằng chứng quan sát được hay không?
• Tại sao biểu diễn dạng nhân tử lại yêu cầu ít số hơn nhiều so với phân phối đồng thời đầy đủ?

Key concepts

• đồ thị có hướng không chu trình
• bảng xác suất có điều kiện
• phân tích nhân tử theo quy tắc chuỗi
• điều kiện Markov
• d-tách biệt
• biến cha và biến con
• phân phối đồng thời cô đọng
• mô hình đồ họa

Key theories

Phân tích nhân tử thông qua điều kiện Markov

Mạng Bayes khẳng định rằng mỗi biến độc lập có điều kiện với các biến không phải là hậu duệ của nó khi biết các biến cha của nó, do đó phân phối đồng thời được phân tích thành tích của phân phối có điều kiện của mỗi biến khi biết các biến cha của nó, mang lại sự tiết kiệm đáng kể về tham số.

d-tách biệt và độc lập

Tiêu chí đồ họa d-tách biệt đọc các mối quan hệ độc lập có điều kiện trực tiếp từ cấu trúc mạng, đặc trưng hóa chính xác những tuyên bố độc lập nào được ngụ ý bởi đồ thị bất kể các tham số số học.

Mạng niềm tin như suy luận hợp lý

Khung mạng niềm tin của Pearl đã chỉ ra cách các xác suất có điều kiện cục bộ và việc truyền thông điệp nắm bắt suy luận hợp lý mạch lạc, thiết lập các mô hình đồ họa có hướng như một công cụ vững chắc và thực tế để biểu diễn kiến thức không chắc chắn.

Clinical relevance

Mạng Bayes được sử dụng trong chẩn đoán y tế, phân tích lỗi và rủi ro, hợp nhất cảm biến, mô hình hóa mạng điều hòa gen và các mạng sinh học khác, cũng như hỗ trợ ra quyết định, bởi vì chúng làm rõ các phụ thuộc xác suất phức tạp và cho phép bằng chứng được truyền đi để cập nhật niềm tin về các biến không quan sát được.

History

Mạng Bayes được Judea Pearl phát triển vào những năm 1980 như một hình thức đồ họa cho suy luận hợp lý, được trình bày đầy đủ trong cuốn sách năm 1988 của ông. Chúng đã thống nhất các ý tưởng xác suất và đồ họa trước đó, trở thành mô hình đồ họa có hướng chuẩn mực, và sau đó được mở rộng và hệ thống hóa trong tài liệu về mô hình đồ họa xác suất.

Key figures

• Judea Pearl
• Daphne Koller
• Nir Friedman
• David Heckerman

Seminal works

• pearl1986
• pearl1988

Frequently asked questions

Tại sao mạng Bayes lại cô đọng hơn một phân phối đồng thời đầy đủ?

Một phân phối đồng thời đầy đủ trên n biến nhị phân cần khoảng 2^n số. Mạng Bayes chỉ lưu trữ, đối với mỗi biến, xác suất của nó khi biết các biến cha của nó, vì vậy khi mỗi biến có ít biến cha, tổng số tham số tăng gần như tuyến tính thay vì theo cấp số nhân theo số lượng biến.

d-tách biệt cho bạn biết điều gì?

d-tách biệt là một kiểm tra đồ họa xác định, chỉ từ cấu trúc mạng, liệu hai tập hợp biến có độc lập có điều kiện khi biết một tập hợp biến thứ ba đã được quan sát hay không. Nó cho phép bạn đọc các mối quan hệ độc lập từ đồ thị mà không cần kiểm tra các giá trị xác suất thực tế.