CPU, GPU và NPU khác nhau thế nào? Khi nào dùng, cách phối hợp và thay thế

Tìm hiểu thiết kế chip qua hình ảnh · KVBiz Technology Desk

CPU, GPU và NPU đều có thể tham gia tính toán AI. Nếu cả ba cùng làm được, tại sao một thiết bị lại cần nhiều bộ xử lý? Và khi nào có thể dùng GPU hoặc CPU thay NPU?

Khác biệt không chỉ ở việc “làm được hay không”, mà ở cách tổ chức phần cứng, tốc độ, điện năng, bộ nhớ và phần mềm hỗ trợ. Hãy bắt đầu bằng một cuộc gọi video có làm mờ nền bằng AI.

1. Nhìn ảnh: một cuộc gọi, ba vai trò

Hình minh họa phía trên chia chiếc laptop thành ba khu vực:

• CPU — điều hành cuộc gọi: chạy ứng dụng, xử lý nút bấm và phối hợp hoạt động.
• NPU — tìm vùng nhân vật: chạy mô hình để xác định phần ảnh thuộc nhân vật và phần ảnh thuộc nền.
• GPU — làm mờ nền, dựng hình: áp dụng hiệu ứng lên các điểm ảnh và tạo hình ảnh hiển thị.

Trong hình, nhân vật là robot để minh họa. Với cuộc gọi thông thường, mô hình có thể phân tách người khỏi nền. Đây là cách phân công giả định để học, không khẳng định mọi ứng dụng gọi video đều dùng cả ba bộ xử lý theo cách này.

Câu nhớ: CPU điều phối · NPU nhận diện bằng mô hình · GPU xử lý hình ảnh song song.

2. CPU và GPU giống nhau ở đâu, khác nhau ở đâu?

Bạn thấy chúng giống nhau là đúng: cả hai đều thực thi lệnh, tính toán, có bộ nhớ và cơ chế điều khiển. CPU hiện đại cũng làm nhiều việc song song; GPU cũng xử lý được điều kiện và nhánh chương trình.

Điểm khác biệt là ưu tiên thiết kế:

Hãy hình dung CPU như các đầu bếp đa năng, mỗi người có nhiều dụng cụ và xử lý yêu cầu khác nhau. GPU như nhiều trạm nấu làm song song, đặc biệt hiệu quả khi cùng thực hiện thao tác tương tự trên nhiều nguyên liệu.

Đây là ví von về cách tổ chức, không phải khẳng định CPU chỉ làm một việc hay GPU chỉ làm đồ họa.

3. Bên trong NPU có gì khác?

NPU được tối ưu cho các phép tính thường gặp trong mạng nơ-ron. Một cấu trúc phổ biến có các khối nhân–cộng, bộ nhớ đệm gần nơi tính toán và cơ chế điều phối dữ liệu. Cấu trúc cụ thể tùy nhà thiết kế.

Phép nhân–cộng có thể hình dung là: lấy một giá trị dữ liệu nhân với một trọng số, rồi cộng vào kết quả đang tích lũy. Những phép tính như vậy xuất hiện rất nhiều trong mạng nơ-ron.

Nếu CPU là đầu bếp đa năng và GPU là đội làm song song, thì NPU giống máy chuyên dụng cho một nhóm công việc. Nó có thể làm hiệu quả những phép toán được hỗ trợ, nhưng cần phần mềm, mô hình và dữ liệu phù hợp.

NPU không chứa sẵn toàn bộ kiến thức AI và không tự tạo thành một ứng dụng hoàn chỉnh. Khả năng chạy mô hình phụ thuộc cả phép toán, kiểu dữ liệu, bộ nhớ và công cụ phần mềm.

4. Vì sao “hàng nghìn core GPU” không tương đương hàng nghìn lõi CPU?

Từ “core” không có cùng ý nghĩa ở mọi kiến trúc. Chẳng hạn, GPU NVIDIA được tổ chức thành những cụm SM có bộ lập lịch và các đơn vị thực thi; CUDA core là đơn vị tính toán bên trong, không phải một CPU hoàn chỉnh.

Vì vậy, không thể lấy số CUDA core chia số lõi CPU để suy ra một tỷ lệ mạnh hơn. Cần so sánh trên cùng công việc, với điều kiện đo phù hợp.

GPU hiện đại cũng có thể chứa khối tăng tốc ma trận phục vụ AI, như Tensor Cores ở một số GPU NVIDIA. Điều này giải thích vì sao GPU và NPU có phần chức năng giao nhau.

5. Khi nào dùng từng loại?

Đây là định hướng, không phải bảng lựa chọn cố định. Nhiều NPU trên thiết bị tập trung vào suy luận — dùng mô hình đã học để tạo kết quả — nhưng không nên suy ra mọi NPU đều có cùng khả năng.

6. Cả ba phối hợp trong cuộc gọi video thế nào?

CPU: giữ ứng dụng hoạt động

CPU chạy logic ứng dụng, xử lý thao tác bật/tắt tính năng và điều phối các phần việc. Hệ thống còn có những khối khác cho camera, âm thanh, mạng hoặc mã hóa video; ví dụ này chỉ tập trung vào ba vai trò xử lý đang học.

NPU: tạo kết quả phân tách ảnh

Mô hình nhận một khung hình và tạo kết quả cho biết vùng nào thuộc nhân vật. Kết quả có thể là một “mặt nạ” đánh dấu các vùng ảnh, không phải câu nói của chip rằng nó hiểu con người như chúng ta.

GPU: biến kết quả thành hình ảnh

GPU dùng mặt nạ cùng khung hình để làm mờ phần nền và giữ nhân vật rõ nét. Những phép xử lý trên nhiều điểm ảnh là ví dụ phù hợp với cách làm song song.

CPU: tiếp tục điều phối

Ứng dụng nhận kết quả và phối hợp các bước tiếp theo. Những công việc có thể chồng lấp giữa nhiều khung hình; không nhất thiết ba bộ xử lý phải lần lượt chờ nhau hoàn toàn.

Trong ví dụ này: CPU quản lý việc cần làm; NPU chạy phần nhận diện; GPU tạo hình ảnh đã xử lý. Cách phân chia thực tế phụ thuộc thiết bị và phần mềm.

7. GPU có thay NPU được không? CPU thì sao?

Có thể chuyển nhiều tác vụ AI từ NPU sang GPU hoặc CPU, nếu mô hình và phần mềm hỗ trợ. Điều này không có nghĩa tháo một loại chip rồi lắp loại khác vào cùng vị trí.

Với cuộc gọi video, nếu không dùng được NPU, mô hình phân tách người và nền có thể chạy trên GPU hoặc CPU. GPU vẫn có thể đảm nhiệm phần hiệu ứng hình ảnh. Cần phần mềm triển khai cách phân công ấy; sự chuyển đổi không phải lúc nào cũng tự động.

Một mô hình có thể cần được chuyển đổi hoặc điều chỉnh khi đổi nền tảng, và phải kiểm tra lại chất lượng kết quả. Làm được cùng việc không đồng nghĩa nhanh, tiết kiệm điện hoặc có kết quả số hoàn toàn giống nhau.

8. Nhớ đúng, tránh ba hiểu nhầm

• “Chỉ NPU mới chạy AI” — không đúng. CPU và GPU cũng chạy được nhiều mô hình AI.
• “Có GPU/NPU thì không cần CPU” — không đúng với các hệ thống thông thường đang nói tới. Ứng dụng vẫn cần phần điều hành và xử lý đa dụng.
• “NPU luôn nhanh hơn GPU” — không thể kết luận chung. Phải xét mô hình, khả năng hỗ trợ, bộ nhớ, phần mềm và giới hạn điện năng.

Ba từ khóa: CPU linh hoạt · GPU song song · NPU chuyên mạng nơ-ron.

Khi chọn một giải pháp AI, câu hỏi hữu ích là: chạy mô hình nào, cần độ trễ bao nhiêu, tiêu thụ điện thế nào và phần mềm đã hỗ trợ phần cứng đó chưa? Không phải bài toán nào cũng cần dùng đủ cả ba.

Đọc thêm và nguồn tham khảo

• CPU, GPU, NPU, MCU và SoC: tổng quan cho người nhập môn →.
• Bài 1: Transistor — công tắc nhỏ làm nên chip →.
• Bài 2: Cổng logic AND, OR và NOT →.
• NVIDIA: mục tiêu thiết kế CPU và GPU.
• NVIDIA: cấu trúc và cách thực thi trên GPU.
• Intel: CPU và GPU.
• Arm: NPU và Edge AI.
• Qualcomm: NPU và tính toán phối hợp.

Bài tổng hợp và diễn giải kiến thức kỹ thuật của KVBiz; các tình huống nhà bếp và cuộc gọi video là ví dụ để học, không phải kết quả benchmark hoặc mô tả một ứng dụng cụ thể. Ảnh minh họa tạo bởi AI, dùng robot giả tưởng; không phải cấu trúc chip thật.