การเบี่ยงเบนขนาดใหญ่

ทฤษฎีการเบี่ยงเบนขนาดใหญ่วัดว่าเหตุการณ์ที่หายากนั้นไม่น่าจะเกิดขึ้นเพียงใด โดยแสดงให้เห็นว่าความน่าจะเป็นที่ค่าเฉลี่ยตัวอย่างจะเบี่ยงเบนไปจากค่าเฉลี่ยของมันอย่างมากนั้นลดลงอย่างรวดเร็วแบบเอ็กซ์โปเนนเชียลด้วยอัตราที่กำหนดโดยฟังก์ชันอัตราแบบนูน

Definition

หลักการเบี่ยงเบนขนาดใหญ่เป็นการหาปริมาณอัตราเอ็กซ์โปเนนเชียลที่ความน่าจะเป็นของเหตุการณ์ที่หายากลดลงเมื่อพารามิเตอร์การปรับขนาดเพิ่มขึ้น ผ่านฟังก์ชันอัตรากึ่งต่อเนื่องจากด้านล่างที่กำหนดค่าใช้จ่ายเอ็กซ์โปเนนเชียลของการสังเกตผลลัพธ์แต่ละรายการ

Scope

หัวข้อนี้ครอบคลุมหลักการเบี่ยงเบนขนาดใหญ่พร้อมด้วยฟังก์ชันอัตราและฟังก์ชันอัตราที่ดี ทฤษฎีบทของ Cramer สำหรับผลรวมของตัวแปรอิสระที่แสดงผ่านการแปลง Legendre ของฟังก์ชันก่อกำเนิดคิวมูแลนต์ ทฤษฎีบทของ Gartner-Ellis สำหรับลำดับที่ขึ้นต่อกัน ทฤษฎีบทของ Sanov สำหรับมาตรการเชิงประจักษ์ หลักการหดตัว และบทตั้งปริพันธ์ของ Varadhan

Core questions

• ความน่าจะเป็นที่ค่าเฉลี่ยตัวอย่างจะเบี่ยงเบนไปจากค่าเฉลี่ยของมันอย่างมากนั้นลดลงเร็วแค่ไหน?
• ฟังก์ชันอัตราคืออะไร และคำนวณได้อย่างไรจากฟังก์ชันการแจกแจงพื้นฐาน?
• หลักการเบี่ยงเบนขนาดใหญ่เปลี่ยนแปลงอย่างไรภายใต้แผนที่ต่อเนื่องและปริพันธ์?
• ทฤษฎีขยายจากผลรวมอิสระไปยังมาตรการเชิงประจักษ์และกระบวนการที่ขึ้นต่อกันได้อย่างไร?

Key concepts

• หลักการเบี่ยงเบนขนาดใหญ่
• ฟังก์ชันอัตรา
• ทฤษฎีบทของ Cramer
• การแปลง Legendre
• หลักการหดตัว

Key theories

ทฤษฎีบทของ Cramer

สำหรับผลรวมของตัวแปรอิสระที่มีการแจกแจงเหมือนกัน ค่าเฉลี่ยเชิงประจักษ์เป็นไปตามหลักการเบี่ยงเบนขนาดใหญ่ ซึ่งฟังก์ชันอัตราคือการแปลง Legendre ของฟังก์ชันก่อกำเนิดคิวมูแลนต์ ทำให้ได้อัตราการลดลงแบบเอ็กซ์โปเนนเชียลที่แน่นอนสำหรับค่าเฉลี่ยที่ผิดปกติ

บทตั้งปริพันธ์ของ Varadhan

ปริพันธ์เอ็กซ์โปเนนเชียลเทียบกับลำดับที่เป็นไปตามหลักการเบี่ยงเบนขนาดใหญ่จะถูกควบคุมแบบอสมมาตรด้วยสูตรการแปรผันที่สมดุลตัวถูกอินทิเกรตกับฟังก์ชันอัตรา ซึ่งเป็นอนาล็อกของการเบี่ยงเบนขนาดใหญ่ของวิธีของ Laplace และเป็นเส้นทางสู่การคำนวณพลังงานอิสระ

หลักการหดตัว

หากลำดับเป็นไปตามหลักการเบี่ยงเบนขนาดใหญ่และถูกแมปด้วยฟังก์ชันต่อเนื่อง ภาพที่ได้จะเป็นไปตามหลักการเบี่ยงเบนขนาดใหญ่ ซึ่งฟังก์ชันอัตราได้มาจากการลดฟังก์ชันอัตราเดิมให้เหลือน้อยที่สุดเหนือภาพผกผัน โดยจะถ่ายโอนอัตราผ่านการเปลี่ยนแปลงตัวแปร

Clinical relevance

อัตราการเบี่ยงเบนขนาดใหญ่หาปริมาณความน่าจะเป็นของเหตุการณ์ที่หายากแต่มีผลกระทบ: โดยจะจำกัดความน่าจะเป็นของการล้นบัฟเฟอร์และการสูญเสียแพ็กเก็ตในเครือข่ายการสื่อสาร ความน่าจะเป็นของการล้มละลายในการประกันภัย เลขชี้กำลังข้อผิดพลาดในทฤษฎีสารสนเทศ และอัตราการเปลี่ยนสถานะกึ่งเสถียรในฟิสิกส์เชิงสถิติและจลนพลศาสตร์เคมี

History

Cramer ได้อัตราเอ็กซ์โปเนนเชียลสำหรับผลรวมของตัวแปรอิสระในปี 1938 Varadhan ได้กำหนดหลักการเบี่ยงเบนขนาดใหญ่นามธรรมในปี 1960 และพัฒนาแคลคูลัสของมัน ซึ่งเป็นผลงานที่ได้รับการยอมรับด้วยรางวัล Abel Prize และ Freidlin และ Wentzell ได้ขยายทฤษฎีไปยังระบบพลวัตที่มีสัญญาณรบกวนน้อย

Key figures

• Harald Cramer
• S. R. Srinivasa Varadhan
• Mark Freidlin
• Alexander Wentzell

Seminal works

• dembo1998
• varadhan1984

Frequently asked questions

ทฤษฎีการเบี่ยงเบนขนาดใหญ่แตกต่างจากทฤษฎีบทลิมิตกลางอย่างไร?

ทฤษฎีบทลิมิตกลางอธิบายความผันผวนทั่วไปในระดับหนึ่งส่วนรากที่สองของขนาดตัวอย่าง ในขณะที่ทฤษฎีการเบี่ยงเบนขนาดใหญ่อธิบายความผันผวนที่ผิดปกติในอันดับหนึ่ง ซึ่งความน่าจะเป็นมีค่าน้อยมากแบบเอ็กซ์โปเนนเชียลและถูกควบคุมโดยฟังก์ชันอัตรามากกว่าการแจกแจงแบบเกาส์เซียน

ฟังก์ชันอัตราคืออะไร?

เป็นฟังก์ชันที่ไม่เป็นลบซึ่งค่าที่จุดหนึ่งจะให้อัตราการลดลงแบบเอ็กซ์โปเนนเชียลของความน่าจะเป็นที่จะอยู่ใกล้จุดนั้น โดยจะหายไปที่ค่าทั่วไปและเพิ่มขึ้นเมื่อผลลัพธ์หายากขึ้น ดังนั้นการลดค่านี้ให้เหลือน้อยที่สุดจะระบุวิธีที่น่าจะเป็นไปได้มากที่สุดที่เหตุการณ์ที่หายากจะเกิดขึ้น