Nguy hiểm hơn nữa đó là những AI tạo sinh như ChatGPT thậm chí có khả năng tự nói dối nếu chịu áp lực phải thực hiện các nhiệm vụ kiếm tiền.
Vấn đề này đã được một nhóm nhà nghiên cứu tại Mỹ và Đức phát hiện, trong đó họ sử dụng GPT-4 - mô hình AI tạo sinh của ChatGPT hiện đại nhất hiện nay trong việc thực hiện giao dịch tài chính.
Kết quả thu được cho thấy, có tới 75% trường hợp mà AI đã thực hiện các giao dịch nội gián bất hợp pháp và sau đó che đậy bằng cách nói dối.
Theo nhóm tác giả, đây là minh chứng đầu tiên cho thấy AI có thể tạo ra các hành vi lừa đảo mang tính chiến lược, ngay cả khi chúng được thiết kế vô hại và trung thực với con người.
