ทฤษฎีขีดจำกัดกลาง

ทฤษฎีขีดจำกัดกลางกล่าวว่าผลรวมของตัวแปรสุ่มอิสระจำนวนมาก เมื่อถูกปรับให้อยู่กึ่งกลางและปรับขนาดแล้ว จะมีการแจกแจงแบบปกติโดยประมาณ โดยไม่คำนึงถึงรูปร่างของการแจกแจงของตัวแปรแต่ละตัว ซึ่งเป็นเหตุผลว่าทำไมเส้นโค้งรูประฆังจึงปรากฏให้เห็นทั่วไปในทางวิทยาศาสตร์

Definition

ทฤษฎีขีดจำกัดกลางระบุว่าสำหรับตัวแปรสุ่มอิสระที่มีการแจกแจงเหมือนกันและมีค่าเฉลี่ยและความแปรปรวนจำกัด ผลรวมที่ทำให้เป็นมาตรฐานจะลู่เข้าในการแจกแจงไปสู่กฎปกติมาตรฐานเมื่อจำนวนพจน์เพิ่มขึ้น

Scope

หัวข้อนี้ครอบคลุมทฤษฎีขีดจำกัดกลางแบบคลาสสิกสำหรับตัวแปรอิสระที่มีการแจกแจงเหมือนกันและมีความแปรปรวนจำกัด, เงื่อนไขของ Lindeberg และ Lyapunov สำหรับอาร์เรย์สามเหลี่ยมของตัวแปรอิสระ, วิธีการพิสูจน์ด้วยฟังก์ชันลักษณะเฉพาะ, ขอบเขตของ Berry-Esseen สำหรับอัตราการลู่เข้า, และการขยายไปสู่ขีดจำกัดเสถียรแบบไม่เป็นเกาส์เซียนเมื่อความแปรปรวนเป็นอนันต์

Core questions

• ทำไมการแจกแจงปกติจึงเป็นขีดจำกัดสากลของผลรวมที่ทำให้เป็นมาตรฐาน?
• เงื่อนไขใดบ้าง เช่น ของ Lindeberg ที่จำเป็นเมื่อตัวบวกไม่ได้มีการแจกแจงเหมือนกัน?
• การแจกแจงของผลรวมที่ทำให้เป็นมาตรฐานเข้าใกล้กฎปกติเร็วแค่ไหน?
• อะไรมาแทนที่ขีดจำกัดปกติเมื่อความแปรปรวนเป็นอนันต์?

Key concepts

• การลู่เข้าในการแจกแจง
• เงื่อนไขของ Lindeberg
• เงื่อนไขของ Lyapunov
• อัตราของ Berry-Esseen
• ขีดจำกัดเสถียร

Key theories

ทฤษฎีขีดจำกัดกลางแบบคลาสสิก

สำหรับตัวแปรอิสระที่มีการแจกแจงเหมือนกันและมีความแปรปรวนจำกัด ผลรวมลบด้วยค่าเฉลี่ยและหารด้วยรากที่สองของจำนวนพจน์คูณด้วยส่วนเบี่ยงเบนมาตรฐานจะลู่เข้าในการแจกแจงไปสู่การแจกแจงปกติมาตรฐาน ซึ่งพิสูจน์ได้อย่างชัดเจนด้วยฟังก์ชันลักษณะเฉพาะ

ทฤษฎี Lindeberg-Feller

สำหรับอาร์เรย์สามเหลี่ยมของตัวแปรอิสระ เงื่อนไขของ Lindeberg ที่ว่าไม่มีพจน์ใดพจน์หนึ่งมีส่วนร่วมที่ไม่สามารถละเลยได้ในความแปรปรวนนั้นเพียงพอและจำเป็นโดยพื้นฐานสำหรับการเป็นปกติเชิงเส้นกำกับ ซึ่งทำให้ทฤษฎีนี้มีรูปแบบคลาสสิกที่ทั่วไปที่สุด

ขอบเขตของ Berry-Esseen

เมื่อมีโมเมนต์ที่สามจำกัดอยู่ ข้อผิดพลาดสูงสุดของการประมาณค่าปกติสำหรับการแจกแจงของผลรวมที่ทำให้เป็นมาตรฐานจะถูกจำกัดด้วยค่าคงที่คูณด้วยโมเมนต์สัมบูรณ์ที่สามหารด้วยความแปรปรวนยกกำลังสามส่วนสองและรากที่สองของขนาดตัวอย่าง

Clinical relevance

ทฤษฎีขีดจำกัดกลางเป็นรากฐานสำคัญของการอนุมานทางสถิติ: มันให้เหตุผลสำหรับการประมาณค่าปกติที่อยู่เบื้องหลังช่วงความเชื่อมั่น, การทดสอบ z และ t, และการแจกแจงเชิงเส้นกำกับของตัวประมาณค่า, และอธิบายว่าทำไมข้อผิดพลาดในการวัดและปริมาณรวมในสาขาวิทยาศาสตร์ต่างๆ จึงมักจะเป็นแบบเกาส์เซียนโดยประมาณ

History

เดอมัวฟวร์และลาปลาซพบการประมาณค่าปกติสำหรับทวินามในศตวรรษที่สิบแปด ลยาปูนอฟให้การพิสูจน์ทั่วไปที่เข้มงวดครั้งแรกโดยใช้โมเมนต์ ลินเดเบิร์กให้เงื่อนไขที่ชัดเจน และเฟลเลอร์แสดงให้เห็นว่ามันจำเป็นโดยพื้นฐาน ในขณะที่เบอร์รีและเอสซีนได้หาปริมาณอัตราการลู่เข้า

Key figures

• Abraham de Moivre
• Pierre-Simon Laplace
• Aleksandr Lyapunov
• Jarl Waldemar Lindeberg

Seminal works

• billingsley1995

Frequently asked questions

ทฤษฎีขีดจำกัดกลางต้องการให้ตัวบวกมีการแจกแจงปกติหรือไม่?

ไม่; จุดที่น่าทึ่งคือตัวแปรแต่ละตัวสามารถมีการแจกแจงเกือบทุกรูปแบบที่มีความแปรปรวนจำกัด และผลรวมที่ทำให้เป็นมาตรฐานของพวกมันก็ยังคงมีแนวโน้มที่จะเป็นไปตามกฎปกติเมื่อจำนวนพจน์เพิ่มขึ้น

ขนาดตัวอย่างต้องใหญ่แค่ไหนจึงจะทำให้การประมาณค่าปกติเป็นไปได้ดี?

ไม่มีคำตอบที่เป็นสากล; ขอบเขตของ Berry-Esseen แสดงให้เห็นว่าข้อผิดพลาดขึ้นอยู่กับโมเมนต์ที่สามและลดลงเหมือนหนึ่งส่วนรากที่สองของขนาดตัวอย่าง ดังนั้นตัวบวกที่มีความเบ้หรือหางหนักต้องใช้ตัวอย่างขนาดใหญ่ขึ้นเพื่อการประมาณค่าที่ดี