Khi AI nói sai nhưng vẫn rất tự tin
Một trong những vấn đề đáng chú ý của AI tạo sinh là hiện tượng thường được gọi là hallucination.
AI có thể tạo ra:
- Tên người không tồn tại.
- Nguồn tài liệu không tồn tại.
- Số liệu sai.
- Trích dẫn sai.
- Thông tin pha trộn giữa nhiều nguồn.
Điều đáng chú ý là câu trả lời có thể rất mạch lạc.
Vì sao xảy ra hallucination?
Một mô hình ngôn ngữ về cơ bản dự đoán nội dung tiếp theo dựa trên những gì nó đã học và ngữ cảnh hiện tại.
Nó không mặc định hoạt động giống một cơ sở dữ liệu luôn kiểm tra từng sự kiện trước khi trả lời.
Khi thiếu thông tin, mô hình có thể tạo ra một câu trả lời có vẻ hợp lý nhưng không đúng thực tế.
Ví dụ đơn giản
Người dùng hỏi:
“Ai phát minh ra công nghệ X năm 1842?”
Nếu giả định rằng công nghệ X không tồn tại, một AI yếu có thể vẫn cố gắng đưa ra tên một nhà khoa học.
Đây chính là tình huống nguy hiểm.
AI không nên được xem là nguồn sự thật tuyệt đối.
Làm sao giảm hallucination?
Người dùng có thể yêu cầu AI:
- Nói rõ mức độ chắc chắn.
- Không tự tạo nguồn.
- Phân biệt sự kiện với suy luận.
- Kiểm tra nguồn.
- Trích dẫn tài liệu.
- Không trả lời nếu thiếu dữ liệu.
- Đối chiếu nhiều nguồn.
Đối với các vấn đề quan trọng, con người vẫn cần kiểm chứng độc lập.
AI có thể tự kiểm tra chính mình không?
Có.
Một số hệ thống có thể sử dụng nhiều bước:
Tạo câu trả lời → kiểm tra → tìm bằng chứng → sửa → trả kết quả.
Agent và hệ thống truy xuất thông tin có thể giúp giảm một số loại lỗi.
Tuy nhiên, không có cơ chế nào bảo đảm mọi câu trả lời AI đều chính xác.
Khi nào cần đặc biệt cẩn thận?
Các lĩnh vực có hậu quả cao cần mức kiểm chứng cao hơn:
- Y tế.
- Pháp luật.
- Tài chính.
- An ninh.
- Kỹ thuật.
- Khoa học.
- Tin tức.
AI có thể là công cụ hỗ trợ rất mạnh, nhưng quyết định cuối cùng trong những vấn đề quan trọng cần dựa trên nguồn đáng tin cậy và chuyên môn phù hợp.
FAQ
Hallucination trong AI là gì?
Là hiện tượng AI tạo ra thông tin không chính xác hoặc không có thật nhưng trình bày như một câu trả lời hợp lý.
Tại sao AI lại nói sai?
Vì mô hình tạo nội dung dựa trên các mẫu đã học và ngữ cảnh, không phải lúc nào cũng kiểm chứng sự thật trước khi trả lời.
Có thể loại bỏ hoàn toàn hallucination không?
Chưa có phương pháp bảo đảm loại bỏ hoàn toàn.
Có nên tin AI không?
AI nên được xem là công cụ hỗ trợ. Với thông tin quan trọng, cần kiểm chứng bằng nguồn đáng tin cậy.