Sau khi giới chức Hàn Quốc phát hiện mạng lưới phòng trò chuyện trên ứng dụng Telegram chuyên về deepfake khiêu dâm ở các trường học hồi đầu tháng 8,ủnghoảngdeepfakekhiêudâmphủbónghọcđườngHànQuốbetis – girona nhà hoạt động vì trẻ vị thành niên Bang Seo-yoon bắt đầu liên lạc với các nạn nhân và đã tiếp nhận hàng nghìn lời kể từ họ.
Deepfake là công nghệ sử dụng AI phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra ảnh hoặc video trông như thật về người đó, thậm chí tạo được cả giọng nói.
Nhiều trường hợp trở thành nạn nhân bởi cùng một cách thức. Nam sinh lén tải ảnh từ tài khoản Instagram cá nhân của nạn nhân rồi chế ra hình ảnh nhạy cảm và chia sẻ vào phòng trò chuyện, chủ yếu để xúc phạm bạn nữ cùng lớp và giáo viên.
Tình trạng này cho thấy khủng hoảng deepfake khiêu dâm đang phủ bóng lên các trường học ở Hàn Quốc. Giới chuyên gia nhận định sự kết hợp mang tính độc hại giữa Telegram, công nghệ trí tuệ nhân tạo (AI) và luật pháp lỏng lẻo khiến vấn đề càng thêm nghiêm trọng.
"Ngoài tổn thương do chính deepfake gây ra, sự lan truyền của chúng còn khiến nạn nhân cảm thấy nhục nhã và đau đớn hơn nữa", Bang nói.