Vraisemblance et mise à jour bayésienne
La vraisemblance contient toute l'information que les données fournissent sur les paramètres, et la mise à jour bayésienne transforme la distribution a posteriori d'hier en distribution a priori d'aujourd'hui à mesure que les preuves s'accumulent.
Definition
La vraisemblance est la densité d'échantillonnage des données observées, considérée comme une fonction des paramètres ; la mise à jour bayésienne est l'application répétée du théorème de Bayes de sorte que l'information provenant d'observations successives est combinée en une seule distribution a posteriori.
Scope
Ce sujet couvre la fonction de vraisemblance et le principe de vraisemblance, la nature séquentielle de la mise à jour bayésienne où la distribution a posteriori d'un ensemble de données devient la distribution a priori pour le suivant, et la cohérence de la mise à jour sous des observations échangeables.
Core questions
- Qu'est-ce que la fonction de vraisemblance et pourquoi est-elle centrale pour l'inférence ?
- Que stipule le principe de vraisemblance, et comment l'inférence bayésienne le satisfait-elle ?
- Comment la distribution a posteriori d'un ensemble de données sert-elle de distribution a priori pour le suivant ?
- Pourquoi la mise à jour bayésienne séquentielle est-elle invariante à l'ordre pour des données échangeables ?
Key concepts
- fonction de vraisemblance
- principe de vraisemblance
- suffisance
- mise à jour séquentielle
- récursion a priori-a posteriori
- accumulation de preuves
Key theories
- Principe de vraisemblance
- Deux expériences produisant des fonctions de vraisemblance proportionnelles pour le même paramètre portent la même information probante ; l'inférence bayésienne respecte automatiquement ce principe.
- Mise à jour séquentielle
- Appliquer le théorème de Bayes de manière répétée est équivalent à l'appliquer une seule fois aux données regroupées, de sorte que les croyances peuvent être révisées en ligne sans stocker l'ensemble complet des données.
Clinical relevance
La mise à jour séquentielle soutient les analyses adaptatives et intermédiaires dans les essais cliniques, les systèmes d'apprentissage en ligne, et tout contexte où les données arrivent en flux continu et où les croyances doivent être révisées en permanence.
History
Fisher a introduit la vraisemblance comme concept distinct dans les années 1920 ; l'analyse de Birnbaum de 1962 a formalisé le principe de vraisemblance à partir de la suffisance et de la conditionnalité. La théorie bayésienne a absorbé ces idées, en formulant la mise à jour comme un conditionnement itéré.
Debates
- Statut du principe de vraisemblance
- La question de savoir si le principe de vraisemblance devrait contraindre toute inférence est contestée, car de nombreuses procédures fréquentistes (telles que celles utilisant des règles d'arrêt) le violent, tandis que les méthodes bayésiennes ne le font pas.
Key figures
- Ronald A. Fisher
- Allan Birnbaum
- George Barnard
Related topics
Seminal works
- birnbaum1962
- robert2007
Frequently asked questions
- Est-ce que l'ordre dans lequel je mets à jour les différents points de données a une importance ?
- Pour des observations échangeables, la distribution a posteriori finale est la même quel que soit l'ordre dans lequel les données sont traitées, car la mise à jour bayésienne est associative et équivalente à un conditionnement sur toutes les données simultanément.