Fondements de l'inférence bayésienne
L'inférence bayésienne traite les quantités inconnues comme des variables aléatoires et utilise la probabilité comme unique calcul pour représenter et actualiser l'incertitude à la lumière des données.
Definition
L'inférence bayésienne est l'utilisation du théorème de Bayes pour convertir une distribution de probabilité a priori sur des paramètres inconnus, combinée à une vraisemblance pour les données observées, en une distribution a posteriori qui quantifie toute l'incertitude restante concernant ces inconnues.
Scope
Ce domaine couvre le cœur conceptuel et mathématique de l'approche bayésienne : le théorème de Bayes en tant que règle d'actualisation, le rôle de la vraisemblance, l'interprétation de la probabilité comme degré de croyance, l'échangeabilité comme justification de la modélisation statistique, et le contraste entre les positions subjectives et objectives. Il encadre le reste des statistiques bayésiennes, qui construisent les a priori, le calcul et les modèles sur la base de ces principes.
Sub-topics
Core questions
- Comment le théorème de Bayes combine-t-il les croyances a priori avec les données observées pour produire une distribution a posteriori ?
- Quel rôle joue la vraisemblance, et pourquoi l'inférence bayésienne obéit-elle au principe de vraisemblance ?
- Comment l'échangeabilité justifie-t-elle la représentation des observations comme conditionnellement indépendantes étant donné les paramètres ?
- Quelle est la différence entre les interprétations subjective et objective de la probabilité bayésienne ?
Key concepts
- distribution a priori
- fonction de vraisemblance
- distribution a posteriori
- vraisemblance marginale (preuve)
- échangeabilité
- cohérence
- principe de vraisemblance
Key theories
- Le théorème de Bayes comme inférence
- La distribution a posteriori est proportionnelle à la vraisemblance multipliée par la distribution a priori ; cette identité unique régit la manière dont un bayésien actualise rationnellement l'incertitude après avoir observé des données.
- Théorème de représentation de De Finetti
- Une séquence échangeable infinie peut être représentée comme i.i.d. conditionnellement étant donné un paramètre inconnu avec une distribution de mélange, fournissant un fondement de probabilité subjective pour les modèles paramétriques et les a priori.
- Cohérence et l'argument du pari hollandais
- Les degrés de croyance qui obéissent aux axiomes de probabilité sont « cohérents », évitant les configurations de pari à perte certaine ; cet argument de la théorie de la décision sous-tend l'utilisation bayésienne de la probabilité pour les croyances.
Clinical relevance
Les fondements bayésiens sous-tendent les applications dans toutes les sciences où l'incertitude doit être quantifiée et actualisée à mesure que les preuves s'accumulent, du suivi des essais cliniques et de la génétique à la physique, l'apprentissage automatique et l'analyse décisionnelle.
History
L'essai de Bayes (publié à titre posthume en 1763) et le développement indépendant de Laplace ont marqué le début de la méthode de la probabilité inverse. Éclipsée par les méthodes fréquentistes au début du XXe siècle, l'approche a été ravivée grâce aux a priori objectifs de Jeffreys, aux fondements de la probabilité subjective de de Finetti et Savage, et, à partir des années 1990, aux avancées computationnelles qui l'ont rendue largement pratique.
Debates
- A priori subjectifs versus objectifs
- La question de savoir si les a priori doivent encoder une véritable croyance personnelle ou être choisis selon des règles formelles pour minimiser leur influence demeure un débat fondamental au sein des statistiques bayésiennes.
Key figures
- Thomas Bayes
- Pierre-Simon Laplace
- Bruno de Finetti
- Harold Jeffreys
- Leonard J. Savage
Related topics
Seminal works
- gelman2013
- robert2007
- definetti1937
Frequently asked questions
- En quoi l'inférence bayésienne diffère-t-elle de l'inférence fréquentiste ?
- L'inférence bayésienne attribue des distributions de probabilité aux paramètres inconnus et rapporte une distribution a posteriori, tandis que l'inférence fréquentiste traite les paramètres comme fixes et raisonne sur le comportement à long terme des estimateurs et des procédures sur des échantillons répétés hypothétiques.
- L'inférence bayésienne exige-t-elle un a priori subjectif ?
- Elle exige un a priori, mais celui-ci peut être subjectif (encodant une croyance réelle) ou choisi selon des règles objectives pour être faiblement informatif ; avec suffisamment de données, la vraisemblance domine généralement et le choix importe moins.