Calcul parallèle en physique

Le calcul parallèle répartit une simulation physique sur de nombreux processeurs qui travaillent simultanément. Pour une mise en œuvre efficace, il est nécessaire de décomposer le problème, de coordonner l'échange de données et de comprendre les lois qui régissent l'accélération.

Definition

Le calcul parallèle en physique est la pratique consistant à diviser une simulation en tâches qui s'exécutent simultanément sur plusieurs processeurs ou cœurs, en coordonnant leurs données et leur synchronisation afin de résoudre des problèmes plus importants plus rapidement qu'une exécution sérielle.

Scope

Ce sujet aborde la programmation parallèle en physique : le multithreading à mémoire partagée et le passage de messages à mémoire distribuée, la décomposition de domaine et l'équilibrage de charge, les modèles de communication et les surcoûts, ainsi que les lois de mise à l'échelle d'Amdahl et de Gustafson. Il traite de la manière dont les modèles physiques sont adaptés au matériel parallèle et de l'analyse de la scalabilité.

Core questions

• Comment une simulation physique est-elle décomposée sur des processeurs avec une charge équilibrée ?
• En quoi les modèles à mémoire partagée et à mémoire distribuée diffèrent-ils en termes de programmation et de mise à l'échelle ?
• Comment le surcoût de communication limite-t-il l'efficacité parallèle ?
• Que prédisent les lois d'Amdahl et de Gustafson concernant l'accélération réalisable ?

Key theories

Décomposition de domaine et équilibrage de charge

Le domaine de simulation est partitionné entre les processeurs qui calculent leur région et échangent des données de frontière ; une distribution équitable du travail et une communication minimale sont ce qui détermine l'efficacité parallèle.

Scalabilité forte et loi d'Amdahl

Pour un problème fixe, la fraction sérielle limite l'accélération maximale, de sorte que l'ajout de processeurs entraîne des rendements décroissants, une contrainte connue sous le nom de scalabilité forte et quantifiée par la loi d'Amdahl.

Scalabilité faible et loi de Gustafson

Lorsque la taille du problème augmente avec le nombre de processeurs, des accélérations beaucoup plus importantes sont réalisables, comme l'a observé Gustafson, car la charge de travail parallèle s'étend tandis que la partie sérielle reste fixe.

Clinical relevance

Le calcul parallèle rend possibles les grandes simulations de dynamique moléculaire, de théorie des champs sur réseau, de fluides et d'astrophysique en les répartissant sur des clusters et des supercalculateurs. Il constitue une compétence fondamentale pour tout travail de physique computationnelle à grande échelle.

History

Le calcul scientifique parallèle a évolué des premières machines vectorielles et à mémoire partagée vers des clusters distribués programmés avec l'interface de passage de messages. Le pessimisme d'Amdahl en 1967 concernant l'accélération a été complété par l'intuition de Gustafson en 1988 selon laquelle l'augmentation de la taille du problème modifie le calcul.

Key figures

• Gene Amdahl
• John Gustafson
• Peter Pacheco

Seminal works

• amdahl1967
• gustafson1988

Frequently asked questions

Quelle est la différence entre la scalabilité forte et la scalabilité faible ?

La scalabilité forte maintient la taille du problème fixe et cherche à déterminer dans quelle mesure l'ajout de processeurs l'accélère, ce que la loi d'Amdahl limite. La scalabilité faible augmente le problème avec le nombre de processeurs, ce qui, comme l'a noté Gustafson, permet aux très grandes machines de rester efficaces pour des simulations de taille correspondante.

Pourquoi la communication limite-t-elle les performances parallèles ?

Les processeurs doivent échanger des données de frontière et des données globales, et cette communication prend un temps qui ne diminue pas aussi vite que le calcul lorsque davantage de processeurs sont ajoutés. Ainsi, au-delà d'un certain point, le surcoût de communication domine et l'efficacité diminue.