Bộ xử lý đa lõi và đa bộ xử lý trên chip

Bộ xử lý đa bộ xử lý trên chip tích hợp nhiều lõi xử lý trên một khuôn duy nhất, chia sẻ bộ nhớ đệm và giao diện bộ nhớ, nhờ đó song song hóa cấp độ luồng (thread-level parallelism) thay vì tốc độ xung nhịp cao hơn thúc đẩy tăng trưởng hiệu suất.

Definition

Bộ xử lý đa lõi, hay bộ xử lý đa bộ xử lý trên chip, là một mạch tích hợp duy nhất chứa nhiều lõi xử lý độc lập chia sẻ một số tài nguyên trên chip và hệ thống bộ nhớ, được thiết kế để thực thi nhiều luồng hoặc chương trình đồng thời.

Scope

Chủ đề này bao gồm cấu trúc của các chip đa lõi: số lượng lõi và tính không đồng nhất, hệ thống phân cấp bộ nhớ đệm dùng chung và riêng, các kết nối trên chip, và cách hiệu suất mở rộng theo số lõi theo định luật Amdahl. Nó đề cập đến cấu trúc phần cứng của các hệ thống đa lõi. Nó không bao gồm các cơ chế nhất quán và đồng bộ hóa được chia sẻ với các chủ đề bộ nhớ dùng chung khác (bộ nhớ dùng chung và tính nhất quán, giao thức nhất quán bộ nhớ đệm) và công cụ lõi đơn (kiến trúc vi xử lý).

Core questions

• Tại sao các bộ xử lý chuyển từ các lõi đơn nhanh sang nhiều lõi?
• Các lõi, bộ nhớ đệm và kết nối được tổ chức trên một chip như thế nào?
• Định luật Amdahl giới hạn tốc độ tăng từ việc thêm lõi như thế nào?
• Khi nào các lõi không đồng nhất được ưu tiên hơn các lõi giống hệt nhau?

Key concepts

• bộ xử lý đa bộ xử lý trên chip
• song song hóa cấp độ luồng
• bộ nhớ đệm dùng chung so với riêng tư
• kết nối trên chip
• số lượng lõi và khả năng mở rộng
• lõi không đồng nhất (big.LITTLE)
• định luật Amdahl
• giới hạn năng lượng và nhiệt

Key theories

Định luật Amdahl cho khả năng mở rộng đa lõi

Phần tuần tự của một khối lượng công việc giới hạn tốc độ tăng có thể đạt được bằng cách thêm lõi; giới hạn này giải thích tại sao việc chỉ tăng số lượng lõi mang lại lợi nhuận giảm dần và thúc đẩy việc giảm các nút thắt tuần tự và sử dụng các thiết kế không đồng nhất.

Mechanisms

Một chip đa lõi đặt nhiều lõi trên một khuôn, thường với bộ nhớ đệm cấp một riêng, bộ nhớ đệm cấp cuối dùng chung và một mạng hoặc vòng trên chip kết nối chúng với các bộ điều khiển bộ nhớ. Các khối lượng công việc đạt được hiệu suất bằng cách chạy các luồng trên các lõi khác nhau. Các thiết kế không đồng nhất kết hợp các lõi hiệu suất cao lớn với các lõi hiệu quả nhỏ, lên lịch công việc cho lõi phù hợp nhất để cân bằng tốc độ và năng lượng.

Clinical relevance

Đa lõi là thiết kế bộ xử lý chiếm ưu thế hiện nay, từ điện thoại đến máy chủ, vì việc tăng tần số đã bị đình trệ do giới hạn năng lượng. Sự trỗi dậy của nó đã chuyển gánh nặng hiệu suất sang phần mềm song song: các ứng dụng phải được đa luồng để hưởng lợi, biến tính đồng thời thành một mối quan tâm lập trình chính thống và định luật Amdahl thành một ràng buộc thực tế trên các hệ thống thực.

History

Các bộ xử lý đa bộ xử lý trên chip nghiên cứu như Hydra của Stanford vào những năm 1990 đã dự đoán kỷ nguyên đa lõi. Sự phá vỡ của việc tăng tần số vào khoảng năm 2004–2005 đã đẩy các CPU chính thống sang các thiết kế hai lõi và sau đó là nhiều lõi. Các kiến trúc không đồng nhất kết hợp các lõi hiệu suất và hiệu quả sau đó trở nên phổ biến, đặc biệt trong các bộ xử lý di động và máy tính xách tay.

Debates

Nhiều lõi hơn so với lõi mạnh hơn

Với năng lượng và diện tích cố định, các nhà thiết kế tranh luận liệu nên thêm nhiều lõi đơn giản hơn, ít lõi mạnh hơn, hay một sự kết hợp không đồng nhất; lựa chọn tốt nhất phụ thuộc vào mức độ song song của các khối lượng công việc mục tiêu, với định luật Amdahl ưu tiên các lõi mạnh khi các phần tuần tự đáng kể.

Key figures

• Gene Amdahl
• John L. Hennessy
• David A. Patterson
• Kunle Olukotun

Seminal works

• hennessy2019
• amdahl1967

Frequently asked questions

Tại sao việc tăng gấp đôi số lượng lõi không tăng gấp đôi hiệu suất?

Theo định luật Amdahl, bất kỳ phần nào của chương trình phải chạy tuần tự đều giới hạn lợi ích của việc thêm lõi. Giao tiếp, đồng bộ hóa và tranh chấp tài nguyên dùng chung làm tăng thêm chi phí, vì vậy tốc độ tăng thực tế thường thấp hơn nhiều so với khả năng mở rộng tuyến tính lý tưởng.

Lõi không đồng nhất (big.LITTLE) là gì?

Các thiết kế không đồng nhất kết hợp các lõi lớn, hiệu suất cao với các lõi nhỏ hơn, tiết kiệm năng lượng trên cùng một chip. Hệ thống lên lịch các công việc đòi hỏi cao trên các lõi lớn và các công việc nhẹ hoặc nền trên các lõi nhỏ, cải thiện hiệu quả năng lượng mà không làm giảm hiệu suất cao nhất.