Brisure de bâton et mesures aléatoires

La brisure de bâton fournit une méthode explicite pour la construction des mesures discrètes aléatoires qui sous-tendent les a priori non paramétriques bayésiens, les rendant ainsi simulables et calculables.

Definition

Une construction par brisure de bâton construit une mesure de probabilité discrète aléatoire en rompant successivement des fractions d'un bâton de longueur unitaire pour former les poids et en attribuant à chaque poids une position tirée d'une mesure de base, offrant ainsi une représentation explicite des a priori non paramétriques tels que le processus de Dirichlet.

Scope

Ce sujet aborde la construction par brisure de bâton du processus de Dirichlet de Sethuraman, la distribution des poids qui en résulte, les généralisations telles que le processus de Pitman-Yor et d'autres a priori à brisure de bâton, les mesures complètement aléatoires, ainsi que les algorithmes de troncature et d'échantillonnage par tranches (slice-sampling) que ces représentations permettent.

Core questions

• Comment la brisure de bâton construit-elle les poids d'un processus de Dirichlet ?
• Comment les processus de Pitman-Yor et d'autres a priori à brisure de bâton généralisent-ils cette construction ?
• Que sont les mesures complètement aléatoires et comment génèrent-elles des a priori non paramétriques ?
• Comment la troncature et l'échantillonnage par tranches (slice sampling) exploitent-ils ces représentations pour l'inférence ?

Key concepts

• construction par brisure de bâton
• distribution GEM
• processus de Pitman-Yor
• mesure complètement aléatoire
• troncature
• échantillonnage par tranches (slice sampling)
• atomes et poids

Key theories

Représentation par brisure de bâton

Sethuraman a montré que le processus de Dirichlet peut être exprimé comme une somme pondérée infinie de masses ponctuelles, avec des poids formés par des brisures de bâton indépendantes distribuées selon une loi Bêta, rendant l'a priori explicite et simulable.

Inférence par brisure de bâton

Les méthodes de Gibbs tronquées et d'échantillonnage par tranches (slice-sampling) basées sur la forme de brisure de bâton fournissent des algorithmes généraux pour l'inférence a posteriori sous de larges classes d'a priori à brisure de bâton.

Clinical relevance

Les représentations par brisure de bâton sous-tendent des algorithmes pratiques pour l'ajustement de modèles de mélange et de regroupement non paramétriques, permettant leur utilisation en génomique, en modélisation de sujets (topic modeling) et dans d'autres applications à grande échelle.

History

La construction par brisure de bâton de Sethuraman en 1994 a donné au processus de Dirichlet une forme explicite et calculable. Les méthodes d'échantillonnage de Ishwaran et James en 2001 et la généralisation de Pitman-Yor ont étendu cela à une vaste famille d'a priori à brisure de bâton, centraux pour le calcul bayésien non paramétrique moderne.

Key figures

• Jayaram Sethuraman
• Hemant Ishwaran
• Lancelot James
• Jim Pitman

Seminal works

• sethuraman1994
• ishwaran2001

Frequently asked questions

Pourquoi la construction par brisure de bâton est-elle utile ?

Elle transforme un a priori abstrait sur les distributions en une somme explicite et simulable de masses ponctuelles pondérées, ce qui permet de tirer des échantillons de l'a priori et de concevoir des échantillonneurs de Gibbs et par tranches (slice samplers) pour l'inférence a posteriori.