Báo cáo của ITU bày tỏ lo ngại trước việc các nội dung deepfake, gồm những hình ảnh, video và âm thanh giả mạo do trí tuệ nhân tạo (AI) tạo ra, đang trở thành mối đe dọa ngày càng nghiêm trọng. ITU kêu gọi thiết lập các tiêu chuẩn toàn cầu nghiêm ngặt để ngăn chặn các nội dung đa phương tiện bị thao túng, đồng thời đề xuất các nền tảng phân phối nội dung như mạng xã hội phải sử dụng công cụ xác minh kỹ thuật số, nhằm xác thực hình ảnh và video trước khi cho phép chia sẻ thông tin.

Trưởng bộ phận nghiên cứu tại Cục Tiêu chuẩn hóa của ITU, ông Bilel Jamoussi cho biết, niềm tin vào mạng xã hội sụt giảm nghiêm trọng vì người dùng không thể phân biệt đâu là thật, đâu là giả. Ông nhấn mạnh việc ngăn chặn deepfake đang là một thách thức hàng đầu do khả năng tạo ra nội dung đa phương tiện cực kỳ chân thực của AI tạo sinh.

Chuyên gia Leonard Rosenthol làm việc tại Adobe, công ty phần mềm chỉnh sửa nội dung kỹ thuật số hàng đầu thế giới, tham gia xử lý vấn đề deepfake từ năm 2019, nhấn mạnh tầm quan trọng của việc thiết lập nguồn gốc nội dung số để người dùng có thể đánh giá mức độ tin cậy. Ông nêu rõ, chúng ta cần các nền tảng hiển thị rõ ràng thông tin về nguồn gốc nội dung. Khi lướt qua một hình ảnh hay video, người dùng cần biết mình có thể tin tưởng được hay không.

Tiến sĩ Farzaneh Badiei, người sáng lập tổ chức nghiên cứu quản trị số Digital Medusa, cảnh báo việc thiếu một cơ quan giám sát toàn cầu chuyên về nội dung giả mạo đang khiến cuộc chiến chống deepfake trở nên rời rạc và kém hiệu quả. Trong nỗ lực tăng cường kiểm soát, ITU đang phát triển các tiêu chuẩn cho việc chèn watermark (dấu bản quyền) vào video, loại nội dung chiếm tới 80% lưu lượng truy cập internet, nhằm lưu lại thông tin như danh tính người tạo và thời gian phát hành.

Nhà sáng lập Công ty Umanitek (Thụy Sĩ), ông Tomaz Levak cảnh báo: “AI sẽ ngày càng mạnh hơn, nhanh hơn, thông minh hơn. Chúng ta cần nâng cao kỹ năng số cho người dùng để họ không trở thành nạn nhân của chính những hệ thống này”.