Deepfake là gì?
Thuật ngữ này là sự kết hợp của các khái niệm "deep learning" và "fake", ám chỉ nội dung giả mạo được tạo ra bằng công nghệ trí tuệ nhân tạo. Deepfake thường là hình ảnh, âm thanh và video giả mạo nhân diện hoặc giọng nói của một người nhằm sử dụng cho các mục đích bất chính.
Theo Diễn đàn Kinh tế Thế giới (WEF), các video deepfake đang tăng với tốc độ 900% hàng năm. Những tiến bộ công nghệ gần đây đã giúp việc sản xuất chúng trở nên dễ dàng hơn.
Deepfake được sử dụng như một phần trong cuộc tấn công nhằm gây ảnh hưởng đến hoạt động hoặc khởi chạy các chiến dịch thông tin sai lệch. Các mục đích sử dụng khác bao gồm lừa đảo trực tuyến, đánh cắp danh tính và gian lận tài chính.
Một trong những ví dụ deepfake đình đám nhất trong những ngày qua là hình ảnh cựu Tổng thống Mỹ Donald Trump bị bắt giữ.
Về cơ chế hoạt động, deepfake sử dụng kỹ thuật trí tuệ nhân tạo tiên tiến thu thập dữ liệu về chuyển động vật lý, đặc điểm khuôn mặt và thậm chí cả giọng nói, rồi xử lý thông qua thuật toán mã hóa AI hoặc Mạng đối kháng tạo sinh (GAN), để tạo ra âm thanh, hình ảnh giả nhưng vô cùng giống thực.
Nói cách khác, đó là video, hình ảnh hoặc âm thanh được tạo bằng AI, bắt chước ngoại hình và/hoặc giọng nói của một người.
Hình ảnh giả mạo ông Trump bị bắt do Deepfake tạo ra.
Đây không phải là công nghệ hoàn toàn mới. Trên thực tế, nó đã được sử dụng trong nhiều năm ở các hãng phim Hollywood, nhưng hiện trở nên phổ biến thông qua các ứng dụng thương mại. Nội dung này tăng nhiều đến mức Facebook đã cấm deepfake vào năm 2020.
Bản thân deepfake không xấu nhưng thường bị lợi dụng cho những mục đích mờ ám. Một báo cáo gần đây của Europol cảnh báo rằng hầu hết các deepfake lan truyền đều có mục đích xấu. Những nội dung mà công nghệ này thường bị lợi dụng bao gồm:
Ghép mặt người vào những bối cảnh có toan tính riêng. Sử dụng hình ảnh và tiếng nói của một người để vượt qua mật khẩu sinh trắc học. Lừa đảo trên nền tảng kỹ thuật số. Lan truyền tin giả và thông tin sai lệch, gây rủi ro phá vỡ thị trường tài chính và tạo bất ổn cho các mối quan hệ quốc tế. Trộm cắp danh tính, tống tiền.
Đáng lo ngại hơn, khi công nghệ này ngày càng dễ tiếp cận, số vụ phạm tội có thể tăng lên. Chính vì vậy, các nhà chức trách khuyên công chúng cần phải hiểu rõ về deepfake và cách ngăn chặn hiểm họa liên quan.
Đã có nhiều trò lừa đảo deepfake gần đây, chẳng hạn như kẻ gian sử dụng công nghệ deepfake để tạo ảnh ba chiều, sau đó sử dụng trong các cuộc gọi video để giả làm giám đốc truyền thông, đánh lừa các giám đốc điều hành khác nhằm thu thập thông tin bí mật.
Với âm thanh deepfake, những kẻ đe dọa đã sử dụng công nghệ sao chép giọng nói thời gian thực để đánh lừa một giám đốc ngân hàng Hồng Kông chuyển 35 triệu USD.
Trong một vụ lừa đảo đặc biệt nghiêm trọng, những kẻ đe dọa đã gửi thư thoại mô phỏng giọng nói của một CEO, yêu cầu nhân viên đóng góp cho các hoạt động từ thiện, cứu trợ thiên tai thông qua các trang web giả mạo để chuyển tiền vào các tài khoản ở nước ngoài.
Làm thế nào để phát hiện deepfake?
Deepfake ngày càng trở nên tinh vi và khó phát hiện hơn. Nhưng vẫn có một số cách để phát hiện thứ trước mặt bạn là lừa đảo hay không.
Số lần nháy mắt
Bằng cách chú ý đến số lần hình ảnh trong video nháy mắt, chúng ta có thể biết được đó là người thật hay là deepfake, vì deepfake có xu hướng làm vậy ít hơn người thật, đôi khi theo cách gượng ép hoặc không tự nhiên.
Khuôn mặt và cơ thể
Giả mạo toàn bộ tính cách của một người đòi hỏi khá nhiều công sức, vì vậy hầu hết các tác phẩm deepfake chỉ giới hạn ở việc thay thế khuôn mặt. Một cách để phát hiện hành vi giả mạo là xác định sự không hợp lý giữa tỷ lệ cơ thể và khuôn mặt, giữa nét mặt và chuyển động hoặc tư thế của cơ thể.
Thời lượng video
Một video giả mạo đòi hỏi vài giờ thực hiện và đào tạo thuật toán, vì vậy các video deepfake thường chỉ dài vài giây.
Âm thanh video
Deepfake vẫn còn hạn chế trong việc kết hợp cả giọng nói và khuôn mặt giả mạo. Hãy nghi ngờ nếu video không có âm thanh hoặc có âm thanh không khớp với khẩu hình.
Bên trong miệng
Công nghệ tạo deepfakes không giỏi trong việc tái tạo một cách trung thực lưỡi, răng và khoang miệng khi người đó nói. Do đó, vết mờ bên trong miệng cho thấy đó là hình ảnh giả mạo.
Những chi tiết khác
Chi tiết cũng là điểm yếu của phần mềm deepfake. Do đó, chúng ta có thể phát hiện ra chúng bằng cách tập trung vào các khía cạnh nhỏ, chẳng hạn như quầng thâm quanh mắt, râu không thật trên khuôn mặt, da quá mịn hoặc nhăn nheo, nốt ruồi giả và màu môi không tự nhiên.