CPU, GPU, NPU, MCU và SoC là gì? Tổng quan dễ hiểu cho người nhập môn

Tìm hiểu thiết kế chip qua hình ảnh · KVBiz Technology Desk

Bạn nghe nói máy tính cần GPU để chạy AI, điện thoại có NPU, robot dùng MCU, còn Snapdragon hay Apple M được gọi là SoC. Vậy những tên gọi ấy chỉ các loại chip khác nhau, hay những bộ phận cùng nằm trong một chip?

Hãy bắt đầu từ vai trò: CPU xử lý đa dụng, GPU tính toán song song, NPU tăng tốc mạng nơ-ron, MCU điều khiển thiết bị. SoC là cách tích hợp nhiều khối chức năng vào một chip.

Ảnh phía trên minh họa vai trò, không phải cấu trúc vật lý của một sản phẩm cụ thể.

1. Một bảng để nhìn được toàn cảnh

Các tên này không nằm trên cùng một cấp phân loại. CPU/GPU/NPU mô tả khối xử lý; MCU là một vi điều khiển có lõi CPU và các thành phần khác; SoC mô tả sự tích hợp một hệ thống. Chúng có thể chồng lấp, không phải năm lựa chọn loại trừ nhau.

2. CPU là gì? “Người xử lý linh hoạt”

CPU thực thi các lệnh của chương trình. Nó phù hợp với nhiều loại công việc, đặc biệt là những tác vụ có nhiều điều kiện, nhánh xử lý và bước phụ thuộc nhau.

Ví dụ, khi bạn mở ứng dụng đặt đồ ăn, hệ thống phải xử lý thao tác, kiểm tra dữ liệu và phối hợp nhiều hoạt động. CPU đảm nhiệm nhiều phần của những công việc ấy.

CPU cũng có thể chạy AI. Nó không chỉ làm nhiệm vụ “chỉ huy”, và CPU hiện đại có nhiều lõi cùng những cơ chế xử lý song song. Tuy nhiên, kiến trúc của nó hướng tới sự linh hoạt, khác với cách GPU tổ chức số lượng lớn phép tính song song.

Nhớ CPU bằng câu: “Nhiều loại việc, nhiều quyết định khác nhau.”

3. GPU là gì? Từ đồ họa đến AI

GPU phát triển từ nhu cầu xử lý đồ họa. Để dựng hình, hệ thống thường phải thực hiện nhiều phép tính tương tự trên nhiều phần tử dữ liệu.

Hãy tưởng tượng cần tô màu một bức tranh gồm rất nhiều ô. Thay vì xử lý từng ô nối tiếp, ta chia việc cho nhiều bộ phận làm đồng thời. Đó là trực giác về tính toán song song.

Nhiều phép tính trong mạng nơ-ron cũng có cấu trúc phù hợp với cách xử lý ấy. Vì vậy GPU được dùng rộng rãi cho cả huấn luyện lẫn suy luận AI, ngoài game, dựng hình và mô phỏng.

Huấn luyện là quá trình điều chỉnh tham số mô hình từ dữ liệu. Suy luận là dùng mô hình đã huấn luyện để tạo kết quả mới, chẳng hạn nhận diện vật thể trong ảnh.

GPU không nhanh hơn CPU trong mọi công việc: nếu tác vụ khó chia song song hoặc chi phí chuyển dữ liệu quá lớn, lợi thế có thể giảm. “GPU mạnh” vẫn cần hiểu mạnh với bài toán nào.

Nhớ GPU bằng câu: “Nhiều phép tính có thể làm cùng lúc.”

4. NPU là gì? Bộ tăng tốc chuyên cho mạng nơ-ron

NPU là phần cứng được tối ưu cho những phép tính thường gặp trong mạng nơ-ron, chẳng hạn các phép toán trên ma trận và tensor — có thể hiểu là những khối dữ liệu nhiều chiều.

Ví dụ, một camera cần chạy mô hình nhận diện vật thể. Nếu NPU hỗ trợ mô hình đó, các phép tính phù hợp có thể được chuyển từ CPU sang NPU để tăng tốc và cải thiện hiệu quả năng lượng.

NPU có thể là một khối nằm trong SoC, hoặc xuất hiện trong một sản phẩm tăng tốc riêng. Trên thiết bị cá nhân, NPU thường được dùng cho suy luận AI tại chỗ, nhưng tên gọi NPU không đảm bảo một năng lực hay quy mô duy nhất.

NPU không chứa sẵn mọi kiến thức AI và không tự làm ứng dụng thông minh. Hệ thống vẫn cần mô hình, dữ liệu, phần mềm và quy trình tích hợp.

Một NPU không nhất thiết chạy được mọi mô hình: còn phụ thuộc phép toán, kiểu dữ liệu, bộ nhớ và bộ công cụ phần mềm được hỗ trợ. Nếu một phần mô hình không tương thích, hệ thống có thể phải chạy phần ấy trên CPU hoặc một bộ xử lý khác.

Nhớ NPU bằng câu: “Chuyên tăng tốc những phép tính của mạng nơ-ron được hỗ trợ.”

5. GPU và NPU khác nhau ở đâu?

NPU không phải “GPU đời mới”, và GPU không trở nên lỗi thời vì có NPU. Hai khối có thể phối hợp trong cùng một hệ thống.

6. MCU là gì? Máy tính nhỏ để điều khiển thiết bị

MCU thường tích hợp lõi CPU, bộ nhớ và các ngoại vi như bộ định thời, giao tiếp hoặc khối chuyển đổi tín hiệu trên một chip.

Hình dung một quạt tự động: MCU đọc nhiệt độ, chạy chương trình điều khiển rồi phát lệnh điều chỉnh tốc độ. Nó cũng có thể đọc nút bấm và cập nhật màn hình nhỏ.

MCU không phải là bộ phận hoàn toàn tách biệt với CPU: bên trong MCU có lõi CPU. Tùy sản phẩm, MCU có thể có nhiều lõi hoặc thêm khối tăng tốc; một số MCU hiện đại còn tích hợp tăng tốc AI.

Nhớ MCU bằng câu: “Đọc tín hiệu và điều khiển thiết bị theo chương trình.”

7. SoC là gì? Một chip chứa nhiều khối phối hợp

SoC là “hệ thống trên chip”. Một SoC cho điện thoại có thể kết hợp CPU, GPU, NPU, xử lý ảnh và các khối giao tiếp. Không phải SoC nào cũng có đủ những khối ấy.

Ví dụ, Apple M4 có CPU, GPU và Neural Engine; Qualcomm mô tả nền tảng Snapdragon với CPU, Adreno GPU và Hexagon NPU cùng phối hợp. Đây là ví dụ về nhiều khối xử lý trong một sản phẩm tích hợp, không phải bảng xếp hạng hiệu năng.

RAM hoặc bộ nhớ lưu trữ vẫn có thể nằm ngoài die của SoC. “Hệ thống trên chip” không có nghĩa toàn bộ thiết bị đã nằm trong một miếng silicon.

Nhớ SoC bằng câu: “Nhiều khối chức năng được tích hợp thành một hệ thống.”

8. Nhìn một camera AI và một robot cho dễ hiểu

Một cấu hình camera AI minh họa có thể phân công như sau:

Một robot có thể dùng bộ xử lý hiệu năng cao cho nhận thức và lập kế hoạch, đồng thời dùng MCU cho các công việc điều khiển gần cảm biến hoặc cơ cấu chấp hành. Cách phân chia thực tế tùy thiết kế; không phải robot nào cũng bắt buộc có đủ CPU, GPU, NPU và MCU riêng biệt.

9. FPGA, ASIC, TPU và DSP nằm ở đâu?

Đây là những thuật ngữ bổ sung, không phải các bậc “mạnh hơn” CPU hay GPU.

Đừng nhầm bộ nhớ với bộ xử lý: RAM giữ dữ liệu đang làm việc; Flash/NAND lưu dữ liệu lâu dài. Chúng không thay thế vai trò tính toán của CPU/GPU/NPU.

10. Chọn chip: đừng chỉ nhìn tên hoặc TOPS

TOPS là đơn vị biểu diễn hàng nghìn tỷ phép toán mỗi giây. Con số này cần được đọc cùng kiểu phép toán, độ chính xác số, điều kiện đo và cấu hình được công bố.

Hai thiết bị cùng mức TOPS không có nghĩa chạy cùng mô hình nhanh như nhau. Bộ nhớ, băng thông, phần mềm, điện năng và những phép toán được hỗ trợ đều ảnh hưởng kết quả thực tế.

Trước khi đánh giá một giải pháp AI, hãy hỏi: chạy mô hình nào, trên dữ liệu nào, cần độ trễ bao nhiêu, dùng bao nhiêu điện và tích hợp phần mềm ra sao?

Chỉ cần nhớ năm vai trò này

CPU: đa dụng. GPU: song song. NPU: tăng tốc mạng nơ-ron. MCU: điều khiển. SoC: tích hợp.

Các loại này thường bổ trợ nhau. Thiết kế chip và thiết kế hệ thống là lựa chọn, tổ chức những khối phù hợp để giải được bài toán trong giới hạn về hiệu năng, điện năng, diện tích và chi phí.

Đọc thêm và nguồn tham khảo

• Bài tổng quan: Thiết kế chip là gì, học bao lâu và cơ hội Việt–Hàn →.
• Bài 1: Transistor →.
• Bài 2: Cổng logic AND, OR và NOT →.
• Intel: Processor Guidebook.
• NVIDIA: giới thiệu kiến trúc xử lý GPU.
• Arm: NPU và Edge AI.
• STMicroelectronics: MCU và MPU.
• Apple: các khối xử lý trong M4.
• Qualcomm: NPU và tính toán phối hợp.
• Google: TPU.
• AMD: FPGA.

Ảnh minh họa tạo bởi AI cho KVBiz; minh họa vai trò, không phải sơ đồ cấu trúc chip thật. Các cấu hình camera và robot là ví dụ diễn giải, không mô tả một sản phẩm cụ thể.