Взаимозаменяемость и теорема де Финетти

Взаимозаменяемость формализует идею о том, что порядок наблюдений не несет информации, а теорема де Финетти показывает, что это предположение оправдывает рассмотрение данных как условно независимых и одинаково распределенных (i.i.d.) при наличии априорного распределения для параметра.

Definition

Последовательность случайных величин является взаимозаменяемой, если ее совместное распределение инвариантно относительно любой перестановки индексов; теорема де Финетти утверждает, что бесконечная взаимозаменяемая последовательность представляет собой смесь i.i.d. последовательностей, при этом смешивающее распределение играет роль априорного.

Scope

Эта тема охватывает конечную и бесконечную взаимозаменяемость, теорему представления де Финетти и ее роль в обосновании параметрических моделей и априорных распределений на основе чисто субъективной вероятности, а также частичную взаимозаменяемость для структурированных данных.

Core questions

• Что означает взаимозаменяемость последовательности наблюдений?
• Как теорема де Финетти представляет взаимозаменяемую последовательность как условно i.i.d.?
• Почему взаимозаменяемость обеспечивает субъективно-вероятностное обоснование априорных распределений и параметрических моделей?
• Как идея расширяется посредством частичной взаимозаменяемости на структурированные или сгруппированные данные?

Key concepts

• взаимозаменяемость
• инвариантность относительно перестановок
• смешивающее распределение
• условная независимость
• частичная взаимозаменяемость
• субъективная вероятность

Key theories

Теорема представления де Финетти

Любая бесконечная взаимозаменяемая бинарная последовательность может быть представлена как смесь последовательностей Бернулли, при этом смешивающая мера интерпретируется как априорное распределение вероятности успеха; результат обобщается на более широкие пространства наблюдений.

Частичная взаимозаменяемость

Когда данные делятся на группы, взаимозаменяемость предполагается внутри групп, что мотивирует иерархические модели, в которых параметры на уровне групп сами по себе являются взаимозаменяемыми.

Clinical relevance

Взаимозаменяемость является моделирующим предположением, которое позволяет объединять информацию из схожих единиц, лежащее в основе метаанализа, многоцентровых исследований и иерархических моделей во всех прикладных науках.

History

Де Финетти ввел понятие взаимозаменяемости и доказал свою теорему представления в 1930-х годах, предложив альтернативу частотной концепции i.i.d. выборки, основанную на субъективной вероятности. Хьюитт и Сэвидж позднее расширили теорему на общие пространства.

Key figures

• Bruno de Finetti
• David Hewitt
• Leonard J. Savage

Seminal works

• definetti1937
• bernardo1994

Frequently asked questions

Является ли взаимозаменяемость тем же самым, что и независимость?

Нет. Взаимозаменяемые переменные, как правило, зависимы, но теорема де Финетти показывает, что они становятся условно независимыми и одинаково распределенными после введения неизвестного параметра, что в точности соответствует структуре байесовской модели.