Comparaison et sélection de modèles bayésiens
La comparaison de modèles bayésiens évalue les modèles concurrents en fonction de leur capacité prédictive et du soutien postérieur que les données leur apportent, en utilisant les vraisemblances marginales, les critères prédictifs et l'agrégation de modèles.
Definition
La comparaison de modèles bayésiens est l'utilisation de la probabilité pour évaluer et choisir parmi des modèles concurrents, en comparant leurs vraisemblances marginales ou leurs probabilités a posteriori, en estimant leur précision prédictive attendue, ou en les pondérant proportionnellement à leur soutien.
Scope
Ce domaine couvre les facteurs de Bayes et la vraisemblance marginale, les critères d'information prédictifs tels que le WAIC et la validation croisée par exclusion d'un échantillon (leave-one-out cross-validation), l'agrégation de modèles bayésiens qui tient compte de l'incertitude du modèle, et la vérification prédictive a posteriori pour évaluer l'ajustement absolu du modèle.
Sub-topics
Core questions
- Comment les facteurs de Bayes et les probabilités a posteriori des modèles comparent-ils les modèles ?
- Comment l'exactitude prédictive attendue est-elle estimée à l'aide du WAIC et de la validation croisée ?
- Comment l'agrégation de modèles bayésiens gère-t-elle l'incertitude quant au modèle correct ?
- Comment les vérifications prédictives a posteriori évaluent-elles si un modèle unique correspond aux données ?
Key concepts
- Facteur de Bayes
- Vraisemblance marginale
- WAIC
- Validation croisée par exclusion d'un échantillon (leave-one-out cross-validation)
- Agrégation de modèles bayésiens
- Vérification prédictive a posteriori
- Rasoir d'Ockham
- Précision prédictive
Key theories
- Facteurs de Bayes
- Le rapport des vraisemblances marginales quantifie les preuves fournies par les données en faveur d'un modèle par rapport à un autre et constitue la base bayésienne formelle pour la comparaison d'hypothèses et de modèles.
- Évaluation prédictive de modèles
- Les critères d'information tels que le WAIC et la validation croisée par exclusion d'un échantillon (leave-one-out cross-validation) efficace estiment la précision prédictive hors échantillon directement à partir des tirages a posteriori, offrant une alternative axée sur la prédiction aux facteurs de Bayes.
Clinical relevance
La comparaison de modèles guide le choix du modèle scientifique ou prédictif à privilégier dans des domaines allant de la génétique à la cosmologie, et les vérifications prédictives a posteriori offrent une méthode rigoureuse pour détecter les inadéquations du modèle avant de tirer des conclusions.
History
Jeffreys a introduit les facteurs de Bayes pour le test d'hypothèses dans les années 1930 ; la revue de Kass et Raftery en 1995 les a rendus largement accessibles. Les préoccupations concernant la sensibilité de la vraisemblance marginale aux priors (distributions a priori) et son calcul ont stimulé le développement de critères prédictifs tels que le DIC, le WAIC et la validation croisée par exclusion d'un échantillon (leave-one-out cross-validation) efficace.
Debates
- Facteurs de Bayes contre critères prédictifs
- Les facteurs de Bayes dépendent fortement des priors (distributions a priori) et peuvent être difficiles à calculer, tandis que les critères prédictifs visent la précision hors échantillon ; le choix dépend de l'objectif, qu'il s'agisse de fournir des preuves pour une hypothèse ou d'évaluer la performance prédictive.
Key figures
- Harold Jeffreys
- Robert Kass
- Adrian Raftery
- Sumio Watanabe
- Aki Vehtari
Related topics
Seminal works
- kass1995
- vehtari2017
- gelman2013
Frequently asked questions
- Dois-je utiliser les facteurs de Bayes ou un critère d'information ?
- Utilisez les facteurs de Bayes lorsque vous souhaitez une mesure de preuve en faveur d'une hypothèse par rapport à une autre et que vous pouvez spécifier les priors (distributions a priori) avec soin ; utilisez des critères prédictifs tels que le WAIC ou la validation croisée par exclusion d'un échantillon (leave-one-out cross-validation) lorsque l'objectif est de comparer la performance prédictive hors échantillon attendue.