AGI chưa phải điểm cuối
Nếu xem quá trình phát triển AI như một đường dài, AGI thường được xem là một cột mốc lớn.
Nhưng một câu hỏi khác lập tức xuất hiện:
Nếu một hệ thống có trí tuệ tổng quát tương đương con người, điều gì xảy ra nếu nó có thể cải thiện năng lực của chính mình?
Đây là nơi khái niệm ASI xuất hiện.
ASI là gì?
ASI là viết tắt của:
Artificial Superintelligence
Có thể hiểu đơn giản là siêu trí tuệ nhân tạo — một hệ thống có năng lực trí tuệ vượt xa con người trên phần lớn hoặc hầu hết các lĩnh vực nhận thức quan trọng.
ASI hiện vẫn là một khái niệm giả thuyết.
Không có bằng chứng cho thấy ASI đã tồn tại.
AGI và ASI khác nhau
Có thể hình dung đơn giản:
AI chuyên biệt
→ giỏi một số nhiệm vụ.
AGI
→ có khả năng tổng quát rộng.
ASI
→ vượt xa năng lực trí tuệ con người trên diện rộng.
Đây chỉ là một cách mô hình hóa khái niệm, không phải tiêu chuẩn kỹ thuật được toàn thế giới thống nhất.
Vì sao ASI được quan tâm?
Nếu một hệ thống AI có khả năng nghiên cứu khoa học, lập trình, thiết kế phần cứng và tối ưu thuật toán ở mức vượt trội, tốc độ phát triển công nghệ có thể thay đổi.
Ví dụ giả định:
AI nghiên cứu AI → tạo AI tốt hơn → AI mới nghiên cứu AI tiếp → tiếp tục tạo ra hệ thống tốt hơn.
Đây là một trong những ý tưởng thường được thảo luận khi nói về recursive self-improvement.
Tuy nhiên, đây vẫn là kịch bản giả thuyết và có rất nhiều yếu tố kỹ thuật chưa được giải quyết.
ASI có thể mang lại điều gì?
Các khả năng được thảo luận gồm:
- Khám phá khoa học nhanh hơn.
- Phát triển vật liệu mới.
- Hỗ trợ y học.
- Tối ưu năng lượng.
- Tối ưu sản xuất.
- Phát triển robot.
- Giải quyết những bài toán tính toán phức tạp.
Nhưng đi cùng lợi ích tiềm năng là những câu hỏi lớn về kiểm soát, an toàn và quản trị.
Vấn đề Alignment
Một trong những chủ đề quan trọng là AI alignment.
Nói đơn giản:
Làm thế nào để hệ thống AI thực hiện mục tiêu phù hợp với con người và không tạo ra hậu quả ngoài mong muốn?
Đây không phải một vấn đề đơn giản.
Ngay cả con người cũng có thể hiểu khác nhau về cùng một mục tiêu.
Một yêu cầu tưởng như đơn giản khi giao cho một hệ thống cực kỳ mạnh có thể tạo ra những cách thực hiện ngoài dự đoán.
Con người cần chuẩn bị thế nào?
Thay vì chỉ tập trung vào việc AI mạnh đến đâu, xã hội cần quan tâm đồng thời tới:
- An toàn AI.
- Kiểm soát quyền hạn.
- Minh bạch.
- Kiểm thử.
- Quản trị.
- Bảo mật.
- Pháp luật.
- Giáo dục.
- Khả năng kiểm chứng.
Câu hỏi lớn của thời đại AI có thể không chỉ là:
“Chúng ta có thể tạo ra AI mạnh đến đâu?”
mà còn là:
“Chúng ta có thể xây dựng một hệ thống đủ mạnh nhưng vẫn kiểm soát được hay không?”
Từ AI đến nền văn minh mới?
Nếu AI tiếp tục phát triển mạnh, tác động của nó có thể vượt xa ngành công nghệ.
AI có thể ảnh hưởng đến:
- Khoa học.
- Giáo dục.
- Y tế.
- Công nghiệp.
- Kinh tế.
- Năng lượng.
- Không gian.
- Robot.
- Internet.
Khi đó, AI không còn đơn thuần là một phần mềm.
Nó có thể trở thành một lớp công nghệ nền tảng của nền văn minh.
FAQ
ASI là gì?
ASI là Artificial Superintelligence, khái niệm chỉ một dạng siêu trí tuệ nhân tạo vượt xa năng lực nhận thức của con người trên diện rộng.
ASI đã tồn tại chưa?
Không có bằng chứng cho thấy ASI đã tồn tại.
AGI có chắc chắn dẫn tới ASI không?
Không. Đây là một khả năng được thảo luận, không phải kết luận chắc chắn.
AI alignment là gì?
Là lĩnh vực nghiên cứu nhằm làm cho hành vi và mục tiêu của AI phù hợp với ý định và lợi ích của con người.
ASI có tốt hay xấu?
Không thể kết luận đơn giản. Tác động phụ thuộc vào năng lực hệ thống, cách triển khai, mục tiêu, kiểm soát và bối cảnh sử dụng.
Để lại một bình luận