Bùng nổ ứng dụng "khỏa thân hóa” phụ nữ trên mạng
- Thứ ba - 12/12/2023 08:06
- In ra
- Đóng cửa sổ này
Những dịch vụ này sử dụng AI để tái tạo lại ảnh chụp, khiến người trong ảnh gốc bị khỏa thân. Phần lớn nạn nhân là nữ. Đây là một phần trong xu hướng đáng lo ngại về nội dung khiêu dâm không có sự đồng thuận đang được phát triển và phát tán do những tiến bộ của AI.
Ứng dụng và trang web sử dụng trí tuệ nhân tạo (AI) để loại bỏ quần áo nữ giới trong ảnh đang ngày càng phổ biến.
Theo công ty phân tích mạng xã hội Graphika, chỉ riêng tháng 9 vừa qua đã có 24 triệu người truy cập vào những trang web kể trên.
Graphika cho biết thêm nhiều ứng dụng và trang web trong số này sử dụng mạng xã hội để tiếp thị.
Chẳng hạn như, kể từ đầu năm 2023, lượng đường dẫn quảng bá cho ứng dụng "khỏa thân hóa" phụ nữ đã tăng hơn 2.400% trên các nền tảng xã hội, bao gồm X (trước đây là Twitter) và Reddit, Bloomberg đưa tin ngày 8-12.
Những dịch vụ này sử dụng AI để tái tạo lại ảnh chụp, khiến người trong ảnh gốc bị khỏa thân. Phần lớn nạn nhân là nữ.
Đây là một phần trong xu hướng đáng lo ngại về nội dung khiêu dâm không có sự đồng thuận đang được phát triển và phát tán do những tiến bộ của AI.
Sự phổ biến của xu hướng nêu trên làm dấy lên nhiều câu hỏi về pháp lý và đạo đức, nhất là khi ảnh được lấy từ mạng xã hội và phát tán mà không có sự đồng thuận, kiểm soát hoặc nhận thức của chủ thể.
Một trong những ứng dụng "khỏa thân hóa" đã trả tiền để được quảng cáo trên nền tảng YouTube của Google. Ứng dụng này xuất hiện đầu tiên khi người dùng tìm kiếm với cụm từ "khỏa thân".
Người phát ngôn của Google cho biết công ty không cho phép quảng cáo "chứa nội dung khiêu dâm". Người này nói thêm Google "đã xem xét những quảng cáo được đề cập và đang xóa những quảng cáo vi phạm chính sách của công ty".
X và Reddit chưa phản hồi yêu cầu bình luận của Bloomberg.
Nội dung khiêu dâm không có sự đồng thuận của người nổi tiếng từ lâu đã là vấn đề nhức nhối trên Internet. Giới chuyên gia ngày càng lo ngại rằng những tiến bộ của AI có thể khiến phần mềm deepfake ngày càng dễ sử dụng và hiệu quả.
"Hoạt động này đang được thực hiện ngày càng nhiều bởi người bình thường, với mục tiêu là người bình thường. Nạn nhân bao gồm cả học sinh trung học và sinh viên" – Giám đốc an ninh mạng của Tổ chức Biên giới Điện tử (Mỹ) Eva Galperin nói.
Bà Galperin cho biết thêm nhiều nạn nhân không bao giờ biết về ảnh "khỏa thân hóa" của họ. Tuy nhiên, kể cả khi biết, họ cũng có thể gặp khó khăn trong việc yêu cầu cơ quan thực thi pháp luật điều tra hoặc tìm kiếm kinh phí để theo đuổi hành động pháp lý.
Cao Lực
Theo công ty phân tích mạng xã hội Graphika, chỉ riêng tháng 9 vừa qua đã có 24 triệu người truy cập vào những trang web kể trên.
Graphika cho biết thêm nhiều ứng dụng và trang web trong số này sử dụng mạng xã hội để tiếp thị.
Chẳng hạn như, kể từ đầu năm 2023, lượng đường dẫn quảng bá cho ứng dụng "khỏa thân hóa" phụ nữ đã tăng hơn 2.400% trên các nền tảng xã hội, bao gồm X (trước đây là Twitter) và Reddit, Bloomberg đưa tin ngày 8-12.
Những dịch vụ này sử dụng AI để tái tạo lại ảnh chụp, khiến người trong ảnh gốc bị khỏa thân. Phần lớn nạn nhân là nữ.
Đây là một phần trong xu hướng đáng lo ngại về nội dung khiêu dâm không có sự đồng thuận đang được phát triển và phát tán do những tiến bộ của AI.
Kể từ đầu năm 2023, lượng đường dẫn quảng bá cho ứng dụng "khỏa thân hóa" phụ nữ đã
tăng hơn 2.400% trên các nền tảng xã hội. Ảnh: Bloomberg
tăng hơn 2.400% trên các nền tảng xã hội. Ảnh: Bloomberg
Sự phổ biến của xu hướng nêu trên làm dấy lên nhiều câu hỏi về pháp lý và đạo đức, nhất là khi ảnh được lấy từ mạng xã hội và phát tán mà không có sự đồng thuận, kiểm soát hoặc nhận thức của chủ thể.
Một trong những ứng dụng "khỏa thân hóa" đã trả tiền để được quảng cáo trên nền tảng YouTube của Google. Ứng dụng này xuất hiện đầu tiên khi người dùng tìm kiếm với cụm từ "khỏa thân".
Người phát ngôn của Google cho biết công ty không cho phép quảng cáo "chứa nội dung khiêu dâm". Người này nói thêm Google "đã xem xét những quảng cáo được đề cập và đang xóa những quảng cáo vi phạm chính sách của công ty".
X và Reddit chưa phản hồi yêu cầu bình luận của Bloomberg.
Nội dung khiêu dâm không có sự đồng thuận của người nổi tiếng từ lâu đã là vấn đề nhức nhối trên Internet. Giới chuyên gia ngày càng lo ngại rằng những tiến bộ của AI có thể khiến phần mềm deepfake ngày càng dễ sử dụng và hiệu quả.
"Hoạt động này đang được thực hiện ngày càng nhiều bởi người bình thường, với mục tiêu là người bình thường. Nạn nhân bao gồm cả học sinh trung học và sinh viên" – Giám đốc an ninh mạng của Tổ chức Biên giới Điện tử (Mỹ) Eva Galperin nói.
Bà Galperin cho biết thêm nhiều nạn nhân không bao giờ biết về ảnh "khỏa thân hóa" của họ. Tuy nhiên, kể cả khi biết, họ cũng có thể gặp khó khăn trong việc yêu cầu cơ quan thực thi pháp luật điều tra hoặc tìm kiếm kinh phí để theo đuổi hành động pháp lý.
Cao Lực