Numerische Integration in der Statistik
Die numerische Integration in der Statistik bewertet Integrale, die marginale Wahrscheinlichkeiten, posteriore Erwartungswerte und Normierungskonstanten definieren, wenn diese Integrale keine geschlossene Form haben.
Definition
Numerische Integration in der Statistik ist die Anwendung deterministischer Quadraturregeln und analytischer Approximationen zur Bewertung von Integralen, die in der likelihood-basierten und Bayes'schen Inferenz auftreten, insbesondere marginale Wahrscheinlichkeiten und posteriore Momente.
Scope
Dieses Thema behandelt die deterministische Quadratur, die an statistische Integranden angepasst ist, einschließlich Gauss-Hermite-Regeln zur Integration normaler Zufallseffekte, adaptiver Quadratur und der Laplace-Approximation für Integrale, die von einem scharfen Peak dominiert werden. Es ergänzt die Monte-Carlo-Integration, die unter Monte-Carlo-Methoden behandelt wird, indem es sich auf niedrigdimensionale deterministische Schemata konzentriert.
Core questions
- Wie werden Zufallseffekte mittels Gauß-Quadratur aus einer Likelihood integriert?
- Wann übertrifft die adaptive Quadratur feste Regeln für statistische Integranden?
- Wie nutzt die Laplace-Approximation einen scharf ausgeprägten Integranden aus?
- Wann sind deterministische Quadraturmethoden der Monte-Carlo-Integration vorzuziehen?
Key concepts
- Gauss-Hermite-Quadratur
- Adaptive Quadratur
- Laplace-Approximation
- Marginale Wahrscheinlichkeit
- Normierungskonstante
Key theories
- Gauss-Hermite-Quadratur für Zufallseffekte
- Integrale gegen eine Normaldichte, wie sie bei der Marginalisierung von Zufallseffekten in gemischten Modellen auftreten, werden effizient durch Gauss-Hermite-Regeln bewertet, wobei adaptive Versionen die Knoten nahe dem Modus des Integranden zentrieren.
- Laplace-Approximation
- Die Approximation eines scharf ausgeprägten Integranden durch eine Gauß-Funktion um seinen Modus liefert eine geschlossene Schätzung des Integrals, die genau ist, wenn der Peak dominiert, und bildet die Grundlage für eine schnelle approximative Inferenz für viele hierarchische Modelle.
Clinical relevance
Die Anpassung verallgemeinerter linearer gemischter Modelle, die Berechnung von Bayes-Faktoren und die Gewinnung posteriorer Zusammenfassungen erfordern alle die Bewertung unlösbarer Integrale; deterministische Quadratur und die Laplace-Approximation bieten schnelle, genaue Alternativen zur Simulation für niedrigdimensionale Integrale.
History
Klassische Quadratur und Laplaces Methode zur Approximation von Integralen wurden von Statistikern für die Likelihood- und Bayes'sche Berechnung angepasst, wobei die adaptive Gauss-Hermite-Quadratur und die Laplace-Approximation zu Standardwerkzeugen für gemischte und hierarchische Modelle wurden.
Key figures
- John Monahan
- Kenneth Lange
- Pierre-Simon Laplace
Related topics
Seminal works
- monahan2011
- lange2010
Frequently asked questions
- Wann sollte ich Quadratur anstelle von Monte Carlo für ein statistisches Integral verwenden?
- Für niedrigdimensionale Integrale mit glatten Integranden konvergiert die deterministische Quadratur viel schneller und liefert ein deterministisches Ergebnis. Monte Carlo wird mit zunehmender Dimension vorzuziehen, wo Quadraturraster unpraktisch werden.
- Wofür ist die Laplace-Approximation gut?
- Sie liefert eine schnelle, geschlossene Approximation für Integrale, die von einem einzelnen scharfen Peak dominiert werden, wie z. B. marginale Wahrscheinlichkeiten in gut identifizierten Modellen. Sie ist genau, wenn der Integrand nahe seinem Modus annähernd Gauß'sch ist.