Sự giả mạo bằng trí tuệ nhân tạo đang nhanh chóng trở thành một trong những vấn đề lớn nhất mà mọi người phải đối mặt khi sử dụng mạng xã hội. Các công nghệ như deepfake cho phép người dùng tạo ra video và hình ảnh giả mạo một cách hết sức chân thực, đôi khi khó phân biệt được với những tài liệu thực tế.
Trên thế giới đã có nhiều trường hợp lừa đảo liên quan đến Deepfake được ghi nhận. Mới đây nhất, một gia đình tại Texas (Mỹ) đã mất hàng nghìn USD chuyển cho kẻ gian sau khi chúng sử dụng AI và Deepfake để giả giọng con trai họ thông báo vừa gặp tai nạn xe hơi, theo Daily Mail.