멀티코어 및 칩 멀티프로세서

칩 멀티프로세서는 단일 다이(die)에 여러 프로세서 코어를 통합하여 캐시와 메모리 인터페이스를 공유함으로써, 더 높은 클록 속도보다는 스레드 수준 병렬 처리(thread-level parallelism)를 통해 성능 향상을 이끌어냅니다.

Definition

멀티코어 프로세서 또는 칩 멀티프로세서는 여러 스레드나 프로그램을 동시에 실행하도록 설계된, 일부 온칩 자원과 메모리 시스템을 공유하는 여러 독립적인 프로세서 코어를 포함하는 단일 집적 회로입니다.

Scope

이 주제는 멀티코어 칩의 구성: 코어 수와 이종성(heterogeneity), 공유 및 전용 캐시 계층 구조, 온칩 인터커넥트(on-chip interconnect), 그리고 암달의 법칙(Amdahl's law)에 따른 코어 수 증가에 따른 성능 확장 방식에 대해 다룹니다. 멀티코어 시스템의 하드웨어 구조를 다루며, 다른 공유 메모리 주제(공유 메모리 및 일관성, 캐시 일관성 프로토콜)와 공유되는 일관성 메커니즘 및 단일 코어 엔진(프로세서 마이크로아키텍처)은 제외합니다.

Core questions

• 프로세서가 단일 고속 코어에서 다중 코어로 전환된 이유는 무엇입니까?
• 코어, 캐시 및 인터커넥트는 칩에서 어떻게 구성됩니까?
• 암달의 법칙은 코어 추가로 인한 속도 향상을 어떻게 제한합니까?
• 동일한 코어보다 이종 코어가 선호되는 경우는 언제입니까?

Key concepts

• 칩 멀티프로세서
• 스레드 수준 병렬 처리
• 공유 대 전용 캐시
• 온칩 인터커넥트
• 코어 수 및 스케일링
• 이종(big.LITTLE) 코어
• 암달의 법칙
• 전력 및 열 제한

Key theories

멀티코어 스케일링을 위한 암달의 법칙

워크로드의 직렬 부분은 코어 추가로 달성할 수 있는 속도 향상을 제한합니다. 이 한계는 단순히 코어 수를 늘리는 것이 수익 체감(diminishing returns)을 가져오는 이유를 설명하고, 직렬 병목 현상을 줄이고 이종 설계를 사용하는 동기를 부여합니다.

Mechanisms

멀티코어 칩은 하나의 다이에 여러 코어를 배치하며, 일반적으로 전용 1차 캐시, 공유 최종 레벨 캐시, 그리고 메모리 컨트롤러에 연결하는 온칩 네트워크 또는 링을 포함합니다. 워크로드(workload)는 다른 코어에서 스레드를 실행함으로써 성능을 얻습니다. 이종 설계(heterogeneous design)는 크고 고성능인 코어와 작고 효율적인 코어를 결합하여, 속도와 에너지 균형을 맞추기 위해 가장 적절한 코어에 작업을 스케줄링합니다.

Clinical relevance

멀티코어는 주파수 스케일링(frequency scaling)이 전력 제한으로 인해 정체되면서 오늘날 휴대폰에서 서버에 이르기까지 지배적인 프로세서 설계가 되었습니다. 멀티코어의 등장은 성능 향상의 부담을 병렬 소프트웨어로 옮겼습니다. 즉, 애플리케이션이 이점을 얻으려면 멀티스레드여야 하며, 이는 동시성(concurrency)을 주류 프로그래밍 문제로 만들고 암달의 법칙을 실제 시스템의 실질적인 제약으로 만들었습니다.

History

1990년대 스탠포드의 하이드라(Hydra)와 같은 연구용 칩 멀티프로세서는 멀티코어 시대를 예견했습니다. 2004-2005년경 주파수 스케일링의 한계는 주류 CPU를 듀얼 코어, 그리고 이후에는 다중 코어 설계로 전환시켰습니다. 성능 코어와 효율 코어를 결합한 이종 아키텍처는 특히 모바일 및 노트북 프로세서에서 나중에 보편화되었습니다.

Debates

더 많은 코어 대 더 강력한 코어

고정된 전력과 면적 내에서 설계자들은 더 많은 단순한 코어를 추가할지, 더 적은 강력한 코어를 추가할지, 또는 이종 혼합을 사용할지에 대해 논쟁합니다. 최선의 선택은 대상 워크로드가 얼마나 병렬적인지에 따라 달라지며, 직렬 부분이 상당할 때 암달의 법칙은 강력한 코어를 선호합니다.

Key figures

• Gene Amdahl
• John L. Hennessy
• David A. Patterson
• Kunle Olukotun

Seminal works

• hennessy2019
• amdahl1967

Frequently asked questions

코어 수를 두 배로 늘려도 성능이 두 배가 되지 않는 이유는 무엇입니까?

암달의 법칙에 따르면, 프로그램의 직렬로 실행되어야 하는 모든 부분은 추가된 코어의 이점을 제한합니다. 통신, 동기화 및 공유 자원에 대한 경합은 추가적인 오버헤드를 발생시키므로, 실제 속도 향상은 일반적으로 이상적인 선형 스케일링보다 훨씬 낮습니다.

이종(big.LITTLE) 코어는 무엇입니까?

이종 설계는 크고 고성능인 코어와 작고 에너지 효율적인 코어를 동일한 칩에 결합합니다. 시스템은 까다로운 작업을 큰 코어에, 가볍거나 백그라운드 작업을 작은 코어에 스케줄링하여, 최고 성능을 희생하지 않고 에너지 효율성을 향상시킵니다.