البرمجة المتوازية بتمرير الرسائل

تنسق البرمجة المتوازية بتمرير الرسائل العمليات على الأجهزة ذات الذاكرة الموزعة عن طريق الاتصال الصريح، وهو النموذج السائد للحوسبة عالية الأداء واسعة النطاق.

Definition

في البرمجة المتوازية بتمرير الرسائل، تمتلك كل عملية ذاكرتها الخاصة، وتتعاون العمليات فقط عن طريق إرسال واستقبال الرسائل؛ واجهة تمرير الرسائل (MPI) هي المكتبة القياسية التي توفر بدائيات الاتصال من نقطة إلى نقطة والاتصال الجماعي لهذا النموذج.

Scope

يغطي هذا الموضوع نموذج تمرير الرسائل لأجهزة الكمبيوتر المتوازية ذات الذاكرة الموزعة: عمليات الإرسال/الاستقبال من نقطة إلى نقطة ومتغيراتها المتزامنة وغير المتزامنة، والعمليات الجماعية (البث، التشتيت/التجميع، الاختزال، الكل للكل)، ومجموعات العمليات وأجهزة الاتصال، ومعيار MPI الفعلي. كما يغطي نماذج التكلفة المهيكلة مثل نموذج التوازي المتزامن بالجملة (BSP) التي توجه تصميم الخوارزميات ومنطق الأداء.

Core questions

• كيف يتم تقسيم العمليات الحسابية عبر عمليات الذاكرة الموزعة التي لا تشترك في مساحة عنوان؟
• متى يجب أن تحل العمليات الجماعية محل الاتصال الصريح من نقطة إلى نقطة؟
• كيف يمكن نمذجة وتقليل تكلفة الاتصال لخوارزمية متوازية؟

Key theories

الاتصال من نقطة إلى نقطة والاتصال الجماعي

تنظم MPI الحوسبة المتوازية حول الرسائل الصريحة بين العمليات والأنماط الجماعية المحسّنة — البث، الاختزالات، والتجميعات — التي تُعد تطبيقاتها الفعالة أساسية للبرامج الموزعة القابلة للتوسع ذات الذاكرة الموزعة.

نموذج التوازي المتزامن بالجملة (Bulk Synchronous Parallel model)

ينظم نموذج BSP الحوسبة في خطوات فائقة من الحساب المحلي، والاتصال، ومزامنة الحاجز، مما يوفر نموذج تكلفة واضحًا يربط تصميم الخوارزمية بأجهزة تمرير الرسائل.

تصميم الخوارزميات المدرك للاتصال

نظرًا لأن الاتصال غالبًا ما يهيمن على التكلفة في الأجهزة ذات الذاكرة الموزعة، يتم تصميم وتحليل الخوارزميات المتوازية لتقليل حجم الرسائل وزمن الوصول، موازنةً بين الحساب والاتصال.

Clinical relevance

تُعد MPI العمود الفقري للمحاكاة العلمية على الحواسيب الفائقة — نمذجة المناخ، ديناميكا الموائع الحسابية، الديناميكا الجزيئية — ولأي عملية حسابية يجب أن تتوسع عبر العديد من العقد ذات الذاكرة الموزعة في العنقود.

History

قدم نموذج BSP الخاص بـ Valiant عام 1990 تجريدًا رابطًا للحوسبة المتوازية؛ وقام منتدى MPI بتوحيد تمرير الرسائل في عام 1994، وجعلت إصدارات MPI المتتالية بالإضافة إلى النصوص المرجعية من Gropp و Snir و Dongarra وزملائهم منها اللغة المشتركة للحوسبة عالية الأداء.

Key figures

• William Gropp
• Jack Dongarra
• Marc Snir
• Leslie Valiant

Seminal works

• gropp2014
• valiant1990
• snir1998

Frequently asked questions

لماذا يُفضل تمرير الرسائل للآلات المتوازية الكبيرة جدًا؟

الحواسيب المتوازية الكبيرة هي أجهزة ذات ذاكرة موزعة ماديًا: لا توجد ذاكرة مشتركة واحدة قابلة للتوسع. يتطابق تمرير الرسائل مع هذه الأجهزة مباشرةً ويجبر المبرمج على إدارة محلية البيانات بشكل صريح، وهذا ما يمكّن التوسع إلى آلاف أو ملايين النوى.