AI trên thiết bị: Khi máy tính bắt đầu suy nghĩ ngay tại chỗ

AI không còn chỉ nằm trên đám mây

Trong nhiều năm, phần lớn các hệ thống AI mạnh đều phụ thuộc vào những trung tâm dữ liệu khổng lồ. Người dùng gửi dữ liệu lên máy chủ, hệ thống xử lý bằng GPU hoặc các bộ tăng tốc AI, sau đó trả kết quả về thiết bị.

AI trên thiết bị: Khi máy tính bắt đầu suy nghĩ ngay tại chỗ
AI trên thiết bị: Khi máy tính bắt đầu suy nghĩ ngay tại chỗ

Mô hình này đã tạo ra cuộc cách mạng AI hiện nay.

Nhưng một hướng phát triển khác đang ngày càng quan trọng: đưa AI trực tiếp xuống thiết bị.

Thay vì mọi yêu cầu đều phải gửi lên Internet, máy tính có thể tự thực hiện một phần hoặc thậm chí nhiều tác vụ AI ngay trên thiết bị.

Đây chính là nền tảng của Edge AI và thế hệ AI PC.

NPU là gì?

CPU được thiết kế để xử lý rất nhiều loại tác vụ.

GPU có khả năng xử lý song song rất lớn và đã trở thành phần cứng quan trọng của AI.

NPU — Neural Processing Unit — lại được thiết kế chuyên biệt cho các phép tính thường xuất hiện trong mạng nơ-ron nhân tạo.

Có thể hình dung đơn giản:

  • CPU: bộ xử lý đa năng.
  • GPU: bộ xử lý song song mạnh.
  • NPU: bộ tăng tốc dành riêng cho nhiều tác vụ AI.

Khi ba loại bộ xử lý này phối hợp với nhau, một chiếc máy tính có thể phân chia công việc thay vì bắt CPU phải xử lý tất cả.

AI trên thiết bị: Khi máy tính bắt đầu suy nghĩ ngay tại chỗ
AI trên thiết bị: Khi máy tính bắt đầu suy nghĩ ngay tại chỗ

Ví dụ, CPU có thể đảm nhiệm hệ điều hành và ứng dụng, GPU xử lý đồ họa hoặc AI nặng, còn NPU xử lý các tác vụ AI chạy liên tục với mức tiêu thụ điện thấp hơn.

Tại sao phải đưa AI xuống máy tính?

Có ít nhất bốn lý do lớn.

1. Giảm phụ thuộc vào Internet

Một số tác vụ AI không nhất thiết phải gửi dữ liệu lên máy chủ.

Ví dụ:

  • nhận diện giọng nói;
  • khử tiếng ồn;
  • xử lý hình ảnh;
  • dịch một số nội dung;
  • nhận diện vật thể;
  • trợ lý cá nhân;
  • phân loại dữ liệu.

Khi mô hình AI chạy trực tiếp trên thiết bị, người dùng có thể thực hiện một số tác vụ ngay cả khi kết nối mạng không ổn định.

2. Tăng tính riêng tư

Dữ liệu xử lý cục bộ có thể giảm nhu cầu truyền dữ liệu lên máy chủ.

Điều này đặc biệt đáng chú ý đối với:

  • hình ảnh cá nhân;
  • tài liệu;
  • giọng nói;
  • dữ liệu doanh nghiệp;
  • thông tin trên máy tính.

Tuy nhiên, AI chạy cục bộ không đồng nghĩa với tuyệt đối an toàn. Bảo mật còn phụ thuộc vào hệ điều hành, ứng dụng, mô hình AI và cách dữ liệu được lưu trữ.

3. Giảm độ trễ

Khi dữ liệu phải đi qua Internet tới máy chủ rồi quay trở lại, luôn tồn tại độ trễ.

Nếu một phần xử lý được thực hiện ngay trên thiết bị, phản hồi có thể nhanh hơn đối với những tác vụ phù hợp.

4. Tiết kiệm tài nguyên máy chủ

Nếu hàng triệu thiết bị có thể tự xử lý một phần tác vụ AI, lượng công việc phải gửi về trung tâm dữ liệu có thể giảm.

Đây là một trong những lý do ngành công nghiệp đang đầu tư mạnh vào phần cứng AI trên thiết bị.

AI PC sẽ thay đổi máy tính như thế nào?

Máy tính truyền thống chủ yếu chạy các phần mềm do con người điều khiển.

AI PC hướng tới một mô hình khác.

Người dùng không chỉ ra lệnh cho phần mềm, mà có thể giao cho hệ thống thực hiện một chuỗi nhiệm vụ.

Ví dụ:

“Tìm toàn bộ tài liệu liên quan đến dự án X, tóm tắt chúng và tạo danh sách những việc cần làm.”

Một hệ thống AI đủ khả năng có thể tìm kiếm dữ liệu, đọc tài liệu, tổng hợp thông tin và tạo kết quả.

Đây là bước chuyển từ phần mềm phản hồi lệnh sang phần mềm có khả năng hỗ trợ công việc theo mục tiêu.

Nhưng AI cục bộ vẫn có giới hạn

Không phải cứ có NPU là máy tính sẽ trở thành một siêu máy AI.

Các mô hình AI lớn có thể cần lượng bộ nhớ và năng lực tính toán rất lớn.

Một chiếc laptop thông thường không thể dễ dàng chạy những mô hình cực lớn với tốc độ tương đương trung tâm dữ liệu.

Vì vậy, tương lai có thể không phải là:

Cloud hoặc Local

mà là:

Cloud + Local.

Máy tính sẽ quyết định tác vụ nào nên xử lý tại chỗ và tác vụ nào cần sử dụng máy chủ từ xa.

Mô hình AI lai có thể trở thành kiến trúc phổ biến

Một hệ thống AI trong tương lai có thể hoạt động theo ba tầng:

Tầng 1 — Thiết bị

Xử lý những tác vụ nhanh, riêng tư và thường xuyên.

Tầng 2 — Edge

Một máy chủ gần người dùng xử lý những nhiệm vụ nặng hơn nhưng vẫn cần độ trễ thấp.

Tầng 3 — Cloud

Các trung tâm dữ liệu xử lý mô hình cực lớn, huấn luyện AI và những tác vụ yêu cầu tài nguyên khổng lồ.

Ba tầng này có thể phối hợp với nhau.

Điều đó giống như việc xây dựng một hệ thần kinh phân tán cho Internet.

Điều gì xảy ra khi điện thoại cũng trở thành máy AI?

Đây mới là phần đáng chú ý.

Nếu CPU, GPU và NPU tiếp tục mạnh lên, điện thoại có thể xử lý ngày càng nhiều AI ngay trên thiết bị.

Điện thoại có thể hiểu:

  • hình ảnh;
  • giọng nói;
  • văn bản;
  • vị trí;
  • thói quen sử dụng;
  • ngữ cảnh của người dùng.

Khi các dữ liệu này được kết hợp, thiết bị không còn đơn thuần là “chiếc điện thoại”.

Nó trở thành một máy tính cá nhân có khả năng nhận biết ngữ cảnh.

Từ AI PC đến AI Agent

Bước tiếp theo có thể còn lớn hơn AI chatbot.

Đó là AI Agent.

Chatbot chủ yếu trả lời.

Agent có thể hướng tới việc:

  1. nhận mục tiêu;
  2. lập kế hoạch;
  3. sử dụng công cụ;
  4. thực hiện nhiều bước;
  5. kiểm tra kết quả;
  6. tiếp tục điều chỉnh.

Ví dụ:

“Chuẩn bị cho tôi một báo cáo về thị trường máy tính AI.”

Một hệ thống agent có thể tìm tài liệu, phân tích dữ liệu, viết báo cáo và chuẩn bị nội dung.

Tất nhiên, khả năng thực tế phụ thuộc vào phần mềm, quyền truy cập và mức độ tự động hóa được cho phép.

Cuộc cạnh tranh mới không chỉ nằm ở AI

Cuộc đua AI hiện nay không chỉ là cuộc đua xây dựng mô hình lớn hơn.

Nó còn là cuộc đua về:

  • chip;
  • bộ nhớ;
  • NPU;
  • hệ điều hành;
  • phần mềm;
  • mô hình AI nhỏ;
  • trung tâm dữ liệu;
  • mạng Internet;
  • bảo mật;
  • thiết bị đầu cuối.

Một hệ sinh thái AI hoàn chỉnh cần tất cả những thành phần này phối hợp.

Tương lai của máy tính

Máy tính của tương lai có thể không còn được đánh giá đơn giản bằng:

CPU bao nhiêu GHz?

hay:

RAM bao nhiêu GB?

Mà sẽ được đánh giá thêm bằng những câu hỏi như:

  • Máy chạy được mô hình AI nào?
  • NPU mạnh đến đâu?
  • Có thể xử lý AI offline không?
  • AI hiểu ngữ cảnh tốt đến mức nào?
  • Dữ liệu cá nhân được bảo vệ ra sao?
  • AI có thể sử dụng những ứng dụng nào?
  • Hệ thống có thể tự động hóa bao nhiêu công việc?

Đó là sự thay đổi từ máy tính tính toán sang máy tính nhận thức.

Kết luận

AI đang bước ra khỏi trung tâm dữ liệu và tiến vào máy tính, điện thoại, ô tô, robot và ngày càng nhiều thiết bị khác.

NPU và Edge AI chỉ là một phần của quá trình này.

Trong tương lai, người dùng có thể không còn quan tâm quá nhiều đến việc AI đang chạy ở đâu. Thiết bị sẽ tự lựa chọn giữa xử lý cục bộ, Edge và Cloud tùy theo yêu cầu về tốc độ, quyền riêng tư và năng lực tính toán.

Kỷ nguyên tiếp theo của máy tính có thể không phải là máy tính có nhiều sức mạnh hơn, mà là máy tính hiểu con người tốt hơn và có thể chủ động hỗ trợ con người thực hiện công việc.

FAQ

AI PC là gì?

AI PC là máy tính được thiết kế hoặc trang bị phần cứng và phần mềm nhằm tăng khả năng thực hiện các tác vụ trí tuệ nhân tạo, thường có NPU hoặc bộ tăng tốc AI.

NPU khác GPU như thế nào?

GPU được thiết kế cho xử lý song song và có nhiều ứng dụng, trong khi NPU được tối ưu cho nhiều loại phép tính của mạng nơ-ron và các tác vụ AI.

AI chạy trên máy có cần Internet không?

Không phải lúc nào cũng cần. Một số mô hình và tác vụ có thể chạy hoàn toàn trên thiết bị, trong khi những tác vụ lớn hơn vẫn cần Cloud.

Edge AI là gì?

Edge AI là việc xử lý AI gần nơi dữ liệu được tạo ra, chẳng hạn trên điện thoại, máy tính, camera, robot hoặc thiết bị IoT.

AI cục bộ có an toàn hơn Cloud không?

Có thể giảm việc truyền dữ liệu ra ngoài thiết bị, nhưng không thể mặc định rằng AI cục bộ luôn an toàn hơn. Bảo mật phụ thuộc vào toàn bộ hệ thống.

AI Agent có thay thế chatbot không?

Không nhất thiết. Chatbot và AI Agent có thể cùng tồn tại. Agent hướng tới khả năng thực hiện chuỗi nhiệm vụ thay vì chỉ tạo câu trả lời.

Bình luận

Để lại một bình luận

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *