Deepfake là 1 sản phẩm của công nghệ trí tuệ nhân tạo AI có khả năng ghép gương mặt của người này vào người khác, hay tạo ra những hình ảnh giả tưởng ngày càng chân thực. Công nghệ này đang ngày càng phát triển, trong khi các biện pháp quản lý lại chưa theo kịp.
Trong một tuyên bố Meta cho biết, trong năm 2024 - một năm quan trọng đối với các cuộc bầu cử toàn cầu, các công ty công nghệ đang nỗ lực đạt được thoả thuận chống lại việc sử dụng AI, nhằm mục đích lừa đảo gây ảnh hưởng tới quyền lợi của cử tri. Các “gã khổng lồ” công nghệ đang chịu áp lực ngày một lớn trong bối cảnh những lo ngại rằng, các ứng dụng dựa trên AI có thể bị lạm dụng trong năm bầu cử quan trọng.
Theo tờ Washington Post, Meta, Google và OpenAI đã đồng ý sử dụng một tiêu chuẩn hình mờ chung, để gắn thẻ những hình ảnh được tạo ra bằng công nghệ AI như ChatGPT của OpenAI, Copilot của Microsoft hay Gemini của Google.
Tương lai đen tối của Deepfake với con người truyền cảm hứng cho các nhà làm phim - Ảnh minh họa: KT
Deepfake là hợp pháp và công nghệ tiên tiến đằng sau nó đem tới nhiều hứa hẹn, đặc biệt là trong các ngành sáng tạo như làm phim và quảng cáo. Tuy nhiên, công nghệ này đang bị lạm dụng vào các mục đích xấu như tống tiền, lừa đảo, phát tán thông tin chính trị sai lệch, can thiệp bầu cử…
Ngày 21/1 vừa qua, 2 ngày trước cuộc bầu cử sơ bộ ở New Hampshire, một cuộc gọi mạo danh Tổng thống Mỹ Joe Biden đã khiến giới chức Mỹ không khỏi lo ngại về 1 mùa bầu cử rối loạn vì Deepfake. Hay trước đó hồi năm 2019, các nhà chức trách tại Anh đã phát hiện một đoạn ghi âm được dùng làm bằng chứng tại tòa là giả mạo.
Người phát ngôn Nhà trắng Karine Jean- Pierre cho biết, Tổng thống Mỹ đã nói rõ rằng có những rủi ro liên quan đến Deepfake. Hình ảnh giả mạo và thông tin sai lệch có thể trở nên trầm trọng hơn nếu chúng ta không kiểm soát được các công nghệ mới nổi. “Đó cũng chính là lý do tại sao Tổng thống đã chỉ đạo Bộ Thương mại thông qua Viện An toàn AI phát triển các tiêu chuẩn về nội dung, hình mờ,.. Điều này là rất quan trọng nhằm ngăn chặn thông tin sai lệch”, Karine Jean- Pierre nêu.
Các chính phủ đã gióng lên hồi chuông cảnh báo về những rủi ro đi kèm bước đột phá công nghệ, khi các ứng dụng đang trở nên dễ dàng tiếp cận hơn với người dùng internet, trong khi vẫn còn rất ít các biện pháp để quản lý các công nghệ mới.
Tại Anh và Liên minh châu Âu (EU), các đề xuất liên quan quản lý công nghệ này vẫn chưa thành luật cụ thể, mà chủ yếu dựa vào các quy định bảo vệ thông tin cá nhân và quản lý thông tin giả mạo. Tại Mỹ, mới chỉ có 3 bang là California, Virginia và Texas ban hành luật cụ thể cấm các nội dung Deepfake nhằm mục đích gây ảnh hưởng đến các cuộc bầu cử hay các nội dụng khiêu dâm.
Trong khi đó, để đối phó với mối đe dọa ngày càng tăng của Deepfake, Bộ Điện tử và Công nghệ Thông tin (MeitY) Ấn Độ đang nghiên cứu 1 bộ quy tắc, nhằm ngăn chặn sự lan truyền của các thông tin giả mạo do Deepfake dựa trên 4 trụ cột gồm phát hiện; ngăn chặn; xây dựng cơ chế khiếu nại, báo cáo; và nâng cao nhận thức về Deepfake.
