Dư luận rúng động phòng chat tình dục liên quan showbiz

Thông báo từ Cơ quan Cảnh sát Bắc Gyeonggi, Hàn Quốc cho biết 23 cá nhân điều hành phòng chat riêng trên Telegram bị bắt giữ về hành vi vi phạm Đạo luật bảo vệ trẻ em và thanh thiếu niên khỏi tội phạm tình dục và Đạo luật đặc biệt về trừng phạt tội phạm bạo lực tình dục ngày 13/4 gây chấn động.

13 người bị buộc tội chính thức và giam giữ, 60 nam đối tượng khác tham gia phòng chat này cũng bị bắt. Nhóm đối tượng tạo ra hơn 1.100 video deepfake, trong đó có khoảng 30 người nổi tiếng, bao gồm thành viên nhóm nhạc thần tượng nữ.

Vụ bắt giữ tội phạm chấn động showbiz diễn ra giữa lúc hơn 10.305 người kêu cứu. Tội phạm tình dục liên quan AI ngày càng tinh vi khiến nạn nhân lao đao.

AI và deepfake trở thành nỗi ám ảnh

Theo SCMP, Hàn Quốc vật lộn với tình trạng lạm dụng công nghệ trí tuệ nhân tạo (AI). AI bị lạm dụng để tạo video deepfake khiêu dâm, nạn nhân và thủ phạm đều ở độ tuổi vị thành niên.

Tuần trước, nghi phạm 28 tuổi bị kết án 5 năm tù vì sản xuất video deepfake khiêu dâm bằng cách sử dụng ảnh của phụ nữ, bao gồm cựu sinh viên Đại học Quốc gia Seoul .

Có 4 nghi phạm nam giới bị buộc tội liên quan vụ án. Thủ phạm sử dụng hình ảnh của hàng chục phụ nữ ở đại học để tạo và phát tán ít nhất 400 video khiêu dâm. Tòa án cho biết sự sỉ nhục đối với các nạn nhân là "không thể diễn tả được".

Sau vụ việc ở Đại học Quốc gia Seoul, vấn đề trở thành tâm điểm toàn Hàn Quốc khi nhiều vụ việc khác xuất hiện. Nạn nhân cầu cứu khi loạt video khiêu dâm được tạo ra từ ảnh kỷ yếu, hồ sơ công khai trên mạng xuất hiện tràn lan.

Telegram nổi lên là phương tiện phân phối video khiêu dâm, phát triển mạnh những năm gần đây. Có kênh chuyên phân phối sản phẩm đồi trụy được tạo ra từ AI thu hút hơn 20.000 người đăng ký.

Tổng thống Hàn Quốc lên án các video deepfake trong cuộc họp nội các vào thứ ba tuần trước. "Một số người xem đó là trò đùa, nhưng rõ ràng đây là hành vi phạm tội khai thác công nghệ dưới vỏ bọc ẩn danh", tổng thống Hàn Quốc cho biết.

Ông lưu ý rằng nhiều nạn nhân là trẻ vị thành niên , hầu hết thủ phạm ở độ tuổi thanh thiếu niên. Tổng thống nước này kêu gọi cảnh sát xóa sổ tội ác tình dục. Cơ quan Cảnh sát Quốc gia cũng tuyên bố truy quét mạnh mẽ.

Theo điều tra đăng trên Korea Times , số lượng tội phạm tình dục liên quan deepfake tăng lên 297 vụ từ tháng 1-7/2024 - gấp đôi tổng số cả năm 2021. Hơn 70% nghi phạm là thanh thiếu niên, hệ quả của việc tạo ra video deepfake bằng AI ngày càng đơn giản.

Hồi tháng 1, cơ quan chức năng Seoul, Hàn Quốc bắt giữ đường dây tội phạm Telegram. Đây được cho là một trong những vụ án tội phạm tình dục kỹ thuật số cao nhất cả nước.

Hồ sơ vụ án cho thấy thủ phạm là sinh viên vừa tốt nghiệp, 24 tuổi và 14 đồng phạm nhắm đến sinh viên nữ từ ngôi trường họ đang theo học. Nhóm nghi phạm dùng công nghệ deepfake chồng khuôn mặt nữ sinh lên cơ thể khỏa thân, sau đó phát tán nội dung khiêu dâm giả mạo của 234 nạn nhân trong vòng bốn năm.

Trẻ hóa tội phạm và nạn nhân trong xã hội Hàn Quốc

Báo cáo về tội phạm tình dục kỹ thuật số liên quan deepfake ở Hàn Quốc tăng gấp ba lần vào năm 2024. Nguyên nhân đến từ sự phát triển nhanh chóng và khả năng tiếp cận ngày càng tăng của AI.

Năm ngoái, Trung tâm hỗ trợ nạn nhân tội phạm tình dục kỹ thuật số nhận 1.384 báo cáo hình ảnh bị chỉnh sửa, tạo video đồi trụy và phát tán lên mạng. Dữ liệu do Bộ Bình đẳng giới và Gia đình cùng Viện Nhân quyền Phụ nữ Hàn Quốc công bố ngày 10/4 cho thấy số nạn nhân tăng mạnh so với con số 423 báo cáo năm 2023. Nạn nhân ở tuổi thiếu niên chiếm phần lớn, lên tới 92,6%.

Park Sung Hye - người đứng đầu nhóm hỗ trợ xóa bỏ tại trung tâm hỗ trợ nạn nhân - nêu bật xu hướng đáng lo ngại khi giới trẻ sử dụng hình ảnh deepfake do AI tạo ra để giải trí.

"Chúng tôi thấy ngày càng nhiều báo cáo liên quan học sinh tiểu học, thậm chí có trẻ em dưới 10 tuổi do công cụ AI ngày càng dễ tiếp cận. Thủ phạm trẻ tuổi đôi khi sử dụng ảnh của người quen, chẳng hạn như bạn bè, giáo viên", bà Park Sung Hye nói với Korea JoongAng Daily .

Bà nói thêm sự tinh vi ngày càng tăng của AI tạo ra hình ảnh được chỉnh sửa trông thật hơn. "Khi trung tâm mở cửa năm 2018, hầu hết hình ảnh bị chỉnh sửa chủ yếu là chú thích khiêu dâm, ảnh chỉnh sửa giả mạo. Nhưng với sự gia tăng của giới trẻ am hiểu công nghệ, vấn đề ngày càng leo thang", Park Sung Hye nói thêm.

Tổng số người tìm kiếm sự giúp đỡ từ trung tâm hỗ trợ pháp lý năm 2024 tăng lên 10.305, đánh dấu mức tăng 14,7% so với năm 2023. Theo Korea JoongAng Daily, phụ nữ chiếm 72,1% những người tìm kiếm sự giúp đỡ, bao gồm xóa phương tiện truyền thông, tư vấn và chuyển trường hợp cho cơ quan thực thi pháp luật. Trung tâm vận động giúp xóa bỏ 300.237 nội dung bất hợp pháp vào năm ngoái.

Trang web có nội dung dành cho người lớn chiếm tỷ lệ xóa nội dung cao nhất ở mức 43%. Trong khi các nền tảng như Telegram trở thành ổ chứa tội phạm tình dục kỹ thuật số.

Năm 2024, Telegram đã thiết lập đường dây nóng trực tiếp với cơ quan quản lý truyền thông và cảnh sát Hàn Quốc sau khi chính quyền mở cuộc điều tra xem liệu nền tảng nhắn tin này có tiếp tay cho việc phát tán nội dung khiêu dâm deepfake hay không.