Статистическая теория принятия решений

Статистическая теория принятия решений рассматривает оценивание и проверку гипотез как выбор в условиях неопределенности, оцениваемый по ожидаемым потерям, и определяет, какие правила принятия решений являются оптимальными.

Definition

Статистическая теория принятия решений — это разработанная Вальдом концепция, в которой статистическая процедура представляет собой правило принятия решений, сопоставляющее данные с действиями, оцениваемое по его риску (ожидаемому значению функции потерь) и сравниваемое с другими правилами по таким критериям, как допустимость, минимаксность и байесовская оптимальность.

Scope

Эта область охватывает функции потерь и функцию риска как ожидаемые потери, сравнение правил принятия решений, допустимость и недопустимость, минимаксные правила, минимизирующие риск в наихудшем случае, байесовские правила, минимизирующие средний риск при заданном априорном распределении, взаимосвязь между байесовскими, минимаксными правилами и наименее благоприятными априорными распределениями, рандомизированные решения и геометрию множества рисков, а также теоремы о полных классах, характеризующие правила, которые стоит рассматривать.

Sub-topics

• Теоремы о полных классах
• Минимаксная оценка
• Риск и допустимость

Core questions

• Как потери и риск формализуют качество статистической процедуры?
• Что означает, что правило принятия решений является допустимым или недопустимым?
• Как минимаксные правила связаны с байесовскими правилами и наименее благоприятными априорными распределениями?
• Какие правила принятия решений образуют полный класс, на котором стоит сосредоточить внимание?

Key theories

Риск и допустимость

Каждое правило имеет функцию риска в пространстве параметров; правило является недопустимым, если другое правило имеет не больший риск везде и строго меньший риск где-либо, и допустимым в противном случае.

Байесовские и минимаксные правила

Байесовское правило минимизирует средний риск при заданном априорном распределении, минимаксное правило минимизирует риск в наихудшем случае, и при определенных условиях минимаксное правило является байесовским по отношению к наименее благоприятному априорному распределению, связывая эти два критерия.

Теоремы о полных классах

При условиях выпуклости и компактности допустимые правила по существу совпадают с байесовскими правилами и их пределами, поэтому внимание может быть ограничено этим полным классом без потерь.

Clinical relevance

Теоретико-решенческий риск лежит в основе сравнения оценок и классификаторов по ожидаемым потерям, разработки экономически обоснованных решений в медицинском скрининге и операциях, а также принципиального выбора между процедурами, когда ни одно правило не является доминирующим, обеспечивая концептуальную основу как для байесовской, так и для частотной методологии.

History

Вальд основал статистическую теорию принятия решений в 1940-х годах, объединив оценивание и проверку гипотез как решения в условиях риска и доказав ранние результаты о полных классах и минимаксности. Блэквелл, Стейн и другие развили концепцию допустимости и связь с байесовскими правилами, что было консолидировано в монографии Бергера.

Debates

Минимаксные против байесовских критериев

Минимаксность защищает от наихудшего случая, но может быть чрезмерно пессимистичной, в то время как байесовская оптимальность зависит от априорного распределения, которое может быть трудно обосновать; теория принятия решений проясняет компромисс, не диктуя единого выбора.

Key figures

• Abraham Wald
• James O. Berger
• Charles Stein
• David Blackwell

Seminal works

• berger1985

Frequently asked questions

Что такое функция потерь?

Она количественно определяет стоимость выполнения определенного действия, когда истинно определенное значение параметра; распространенными вариантами являются квадратичная ошибка для оценивания и функция потерь «ноль-один» для классификации, а риск — это ее ожидаемое значение.

Является ли допустимое правило всегда хорошим правилом?

Не обязательно. Допустимость означает лишь, что никакое другое правило не доминирует над ним повсюду; некоторые допустимые правила в целом плохи, а некоторые отличные правила недопустимы, поэтому допустимость является минимальным, а не достаточным достоинством.