طرق نيوتن-رافسون والتسجيل (Scoring Methods)
تعمل طرق نيوتن-رافسون وطرق التسجيل ذات الصلة على تعظيم الاحتمالية عن طريق اتخاذ خطوات متكررة بناءً على تدرج وتقوس لوغاريتم الاحتمالية، مما يحقق تقاربًا محليًا سريعًا بالقرب من النقطة المثلى.
Definition
طرق نيوتن-رافسون والتسجيل هي خوارزميات تحسين تكرارية تقوم بتحديث تقدير المعلمة عن طريق حل نموذج تربيعي محلي للوغاريتم الاحتمالية، باستخدام التدرج (التسجيل) ومصفوفة هيسيان أو مصفوفة المعلومات لتحديد الخطوة.
Scope
يغطي هذا الموضوع تكرار نيوتن-رافسون المطبق على معادلات التسجيل، وتسجيل فيشر الذي يستبدل المعلومات المرصودة بتوقعها، وطرق شبه نيوتن التي تقرب التقوس من التدرجات، ودور حجم الخطوة ووسائل الحماية للبحث الخطي، والرابط بين التقوس عند النقطة المثلى والتباين التقاربي للمقدر.
Core questions
- كيف ينتج التقريب التربيعي المحلي خطوة نيوتن لمعادلات التسجيل؟
- كيف يختلف تسجيل فيشر عن نيوتن-رافسون، ولماذا يُفضل غالبًا؟
- كيف تقرب طرق شبه نيوتن التقوس دون حساب مصفوفة هيسيان؟
- كيف تحافظ عمليات البحث الخطي والتعديلات على استقرار التكرار بعيدًا عن النقطة المثلى؟
Key concepts
- دالة التسجيل
- مصفوفة هيسيان ومصفوفة المعلومات
- التقارب التربيعي
- تسجيل فيشر
- تحديث شبه نيوتن
- البحث الخطي
Key theories
- تكرار نيوتن على التسجيل
- باعتبار تقدير الاحتمالية القصوى بمثابة حل لمعادلات التسجيل، تستخدم خطوة نيوتن معكوس مصفوفة هيسيان مضروبًا في التدرج وتتقارب تربيعيًا بمجرد الاقتراب من الحد الأقصى.
- تسجيل فيشر وشبه نيوتن
- يؤدي استبدال المعلومات المرصودة بالمعلومات المتوقعة إلى تسجيل فيشر، والذي غالبًا ما يكون أكثر استقرارًا، بينما تبني تحديثات شبه نيوتن تقريبًا للتقوس من التدرجات المتتالية لتجنب تشكيل مصفوفة هيسيان مباشرة.
Clinical relevance
يُعد تسجيل فيشر خوارزمية التوفيق الافتراضية للنماذج الخطية المعممة من خلال المربعات الصغرى الموزونة تكراريًا، وتُستخدم طرق نيوتن وشبه نيوتن لتوفيق عدد لا يحصى من النماذج الإحصائية غير الخطية؛ كما أن التقوس الذي تحسبه هذه الطرق ينتج أيضًا أخطاء معيارية للتقديرات.
History
تسبق طريقة نيوتن-رافسون لإيجاد الجذور الإحصاء، لكن تقديم فيشر للتسجيل ربطها بتقدير الاحتمالية؛ وأضاف التحليل العددي في منتصف القرن العشرين طرق شبه نيوتن، والتي أصبحت معًا العمود الفقري لتوفيق النماذج الإحصائية.
Key figures
- Isaac Newton
- Joseph Raphson
- Ronald A. Fisher
- Jorge Nocedal
Related topics
Seminal works
- givens2013
- nocedal2006
Frequently asked questions
- لماذا تتقارب طريقة نيوتن-رافسون بهذه السرعة بالقرب من النقطة المثلى؟
- إنها توائم نموذجًا تربيعيًا محليًا باستخدام كل من الميل والتقوس للهدف، لذا فإن كل خطوة تهبط بالقرب جدًا من النقطة المثلى الحقيقية، مما يعطي تقاربًا تربيعيًا. والمفاضلة هي أنها تحتاج إلى مصفوفة هيسيان وقد تكون غير مستقرة بعيدًا عن الحل.
- متى يُفضل تسجيل فيشر على طريقة نيوتن-رافسون العادية؟
- يستخدم تسجيل فيشر المعلومات المتوقعة، والتي غالبًا ما تكون موجبة محددة وأبسط في الحساب من مصفوفة هيسيان المرصودة، مما يجعل التكرار أكثر استقرارًا. وهي الطريقة القياسية وراء توفيق النماذج الخطية المعممة.