Метод «ломающейся палки» и случайные меры

Метод «ломающейся палки» предоставляет явный рецепт для построения случайных дискретных мер, лежащих в основе байесовских непараметрических априорных распределений, делая их симулируемыми и вычислимыми.

Definition

Конструкция «ломающейся палки» строит случайную дискретную меру вероятности путем последовательного отламывания долей от палки единичной длины для формирования весов и присвоения каждому весу местоположения, выбранного из базовой меры, обеспечивая явное представление непараметрических априорных распределений, таких как процесс Дирихле.

Scope

Эта тема охватывает конструкцию Дирихле процесса методом «ломающейся палки» Сетхурамана, результирующее распределение весов, обобщения, такие как процесс Питмана-Йора и другие априорные распределения, основанные на методе «ломающейся палки», полностью случайные меры, а также алгоритмы усечения и сэмплирования срезами, которые становятся возможными благодаря этим представлениям.

Core questions

• Как метод «ломающейся палки» конструирует веса процесса Дирихле?
• Как процесс Питмана-Йора и другие априорные распределения, основанные на методе «ломающейся палки», обобщают эту конструкцию?
• Что такое полностью случайные меры и как они генерируют непараметрические априорные распределения?
• Как усечение и сэмплирование срезами используют эти представления для вывода?

Key concepts

• конструкция «ломающейся палки»
• GEM-распределение
• процесс Питмана-Йора
• полностью случайная мера
• усечение
• сэмплирование срезами
• атомы и веса

Key theories

Представление «ломающейся палки»

Сетхураман показал, что процесс Дирихле может быть записан как бесконечная взвешенная сумма точечных масс, с весами, образованными независимыми «отломами палки», распределенными по Бета-распределению, что делает априорное распределение явным и симулируемым.

Вывод с помощью метода «ломающейся палки»

Методы Гиббса с усечением и сэмплированием срезами, основанные на форме «ломающейся палки», предоставляют общие алгоритмы для апостериорного вывода в широких классах априорных распределений, основанных на методе «ломающейся палки».

Clinical relevance

Представления, основанные на методе «ломающейся палки», лежат в основе практических алгоритмов для подгонки непараметрических смешанных и кластерных моделей, что позволяет использовать их в геномике, тематическом моделировании и других крупномасштабных приложениях.

History

Конструкция «ломающейся палки» Сетхурамана 1994 года придала процессу Дирихле явную, вычислимую форму. Методы сэмплирования Ишварана и Джеймса 2001 года и обобщение Питмана-Йора расширили это до широкого семейства априорных распределений, основанных на методе «ломающейся палки», которые являются центральными в современной непараметрической байесовской вычислительной статистике.

Key figures

• Jayaram Sethuraman
• Hemant Ishwaran
• Lancelot James
• Jim Pitman

Seminal works

• sethuraman1994
• ishwaran2001

Frequently asked questions

Почему конструкция «ломающейся палки» полезна?

Она превращает абстрактное априорное распределение над распределениями в явную, симулируемую сумму взвешенных точечных масс, что позволяет извлекать выборки из априорного распределения и разрабатывать сэмплеры Гиббса и сэмплеры срезами для апостериорного вывода.