Mới đây, trên trang cá nhân của mình, CEO BKAV Nguyễn Tử Quảng đã cảnh báo hiện tượng "ảo giác" AI với ChatGPT.
Cụ thể, ông Quảng cho biết, ChatGPT sinh ra vẫn dựa trên một trích dẫn cụ thể do con người tạo ra (lấy trong kho dữ liệu trên mạng), vì vậy người nghe lúc đầu dễ tin vào những thông tin này.
Tuy nhiên, người dùng gần đây sẽ cảm nhận được nhiều hơn hiện tượng ChatGPT này có nói sai thông tin nhưng thể hiện rất chắc chắn, tự tin cao.
CEO BKAV gọi đây là hiện tượng “ảo giác AI”.
Nguyên văn bài viết như sau:
“ChatGPT và hiện tượng "Ảo giác" AI !
Không phủ nhận khả năng ứng dụng cao của ChatGPT, nhưng gần đây mọi người cảm nhận được nhiều hơn hiện tượng bạn này NÓI SAI nhưng CỨ NHƯ ĐÚNG, với sự TỰ TIN cao.
Hiện tượng này được gọi là "Ảo giác" AI. Nó phổ biến chứ không lạ với các mô hình AI.
Cụ thể với ChatGPT, ở bài trước tôi đã giải thích nguyên lý sinh ra câu trả lời ĐƠN THUẦN dựa vào xác suất thống kê. Do đó, nếu dữ liệu đủ lớn thì câu trả lời sẽ RẤT ĐÚNG, nhưng dữ liệu không đủ thì câu trả lời sẽ RẤT SAI.
Dù nội dung RẤT SAI, nhưng các câu nói được ChatGPT sinh ra vẫn dựa trên một trích dẫn cụ thể do con người tạo ra (lấy trong kho dữ liệu trên mạng), vì vậy mà nghe vẫn hết sức CÓ VẺ đáng tin. ẢO GIÁC là như vậy”.
Trước đó, CEO BKAV đã có bài đăng giải mã bản chất kỹ thuật của công cụ ChatGPT.
Theo CEO Nguyễn Tử Quảng, các câu nói của ChatGPT không liên quan tới suy luận logics, nó đơn thuần dựa vào xác suất thống kê trên tập dữ liệu lớn các câu nói mà nó lấy được trên mạng.
CEO BKAV đánh giá, ChatGPT chưa có khả năng suy luận như con người.
Trước đó, theo một bài đăng khác , ông Nguyễn Tử Quảng đã tiết lộ một người Việt Nam có vai trò quyết định với thành công của ChatGPT.
Theo CEO của BKAV, người Việt Nam này chính là anh Lê Viết Quốc, một trong 4 người đồng sáng lập ra Google Brain.
Chính anh Lê Viết Quốc đã phát triển một thuật toán xử lý ngôn ngữ tự nhiên và Google đã phát triển phiên bản này và cho ra thuật toán Transformers.
Thuật toán này đã giúp Open AI dựa vào đó để phát triển chatbot ChatGPT.