Hàn Quốc quyết tâm xóa bỏ mặt tối của AI

VHO - Vụ bắt giữ 23 cá nhân điều hành phòng chat deepfake khiêu dâm trên Telegram mới đây đã phơi bày một mặt tối của công nghệ AI và cảnh báo về sự bùng nổ tội phạm tình dục kỹ thuật số tại Hàn Quốc.

 Theo South China Morning Post, Hàn Quốc đang đối mặt với làn sóng lạm dụng công nghệ AI để tạo ra các video khiêu dâm giả mạo. Nạn nhân lẫn thủ phạm thường ở độ tuổi thanh thiếu niên.

Ngày 13.4, Cơ quan Cảnh sát Bắc Gyeonggi thông báo đã bắt giữ 23 người điều hành phòng chat riêng trên Telegram vì vi phạm Đạo luật bảo vệ trẻ em và thanh thiếu niên khỏi tội phạm tình dục, cùng Đạo luật đặc biệt về trừng phạt tội phạm bạo lực tình dục.

Trong số này, 13 người bị giam giữ chính thức và 60 đối tượng khác tham gia nhóm chat cũng bị bắt. Băng nhóm này đã sản xuất hơn 1.100 video deepfake khiêu dâm, bao gồm cả hình ảnh của khoảng 30 người nổi tiếng, trong đó có thành viên các nhóm nhạc nữ.

Đây được xem là một trong những vụ bê bối lớn nhất liên quan đến deepfake trong giới giải trí Hàn Quốc.

Một vụ án gần đây cho thấy một nghi phạm 28 tuổi bị kết án 5 năm tù vì tạo video deepfake từ ảnh của hàng chục nữ sinh, trong đó có cựu sinh viên Đại học Quốc gia Seoul. T

ổng cộng có 400 video khiêu dâm được sản xuất và phát tán. Tòa án gọi đây là hành vi “sỉ nhục không thể diễn tả được”.

Sau vụ việc này, nhiều nạn nhân tiếp tục lên tiếng khi phát hiện ảnh kỷ yếu và thông tin cá nhân bị sử dụng để tạo video đồi trụy lan truyền trên mạng. Telegram trở thành nền tảng chính để phát tán các nội dung này, với một số kênh thu hút tới hơn 20.000 người đăng ký.

Tổng thống Hàn Quốc đã lên tiếng lên án hiện tượng này trong một cuộc họp nội các, khẳng định đây là hành vi phạm tội chứ không phải trò đùa. Ông nhấn mạnh: “Phần lớn nạn nhân là trẻ vị thành niên, còn thủ phạm cũng ở độ tuổi rất trẻ”.

Hồi tháng 1, cảnh sát Seoul đã bắt giữ một đường dây deepfake quy mô lớn nhắm vào sinh viên nữ tại trường học. Nhóm thủ phạm, đứng đầu là một sinh viên mới tốt nghiệp 24 tuổi, đã tạo và phát tán video khiêu dâm giả mạo của 234 nạn nhân trong vòng 4 năm.

Họ sử dụng công nghệ AI để ghép khuôn mặt nạn nhân lên cơ thể khỏa thân rồi lan truyền video qua Telegram.

Trung tâm hỗ trợ nạn nhân tội phạm tình dục kỹ thuật số Hàn Quốc cho biết, tính đến năm 2024, đã có 10.305 người tìm đến xin giúp đỡ. Trong số đó 72,1% là nữ giới, chủ yếu tìm kiếm sự hỗ trợ pháp lý, xóa phương tiện truyền thông, tư vấn tâm lý hoặc chuyển hồ sơ đến cơ quan chức năng.

Theo thống kê của Bộ Bình đẳng giới và Viện Nhân quyền Phụ nữ Hàn Quốc, năm 2024 trung tâm đã nhận 1.384 báo cáo về hình ảnh bị chỉnh sửa và phát tán, cao gấp ba lần so với năm 2023.

Trong đó, 92,6% nạn nhân là thiếu niên, bao gồm cả học sinh tiểu học. Park Sung Hye (người đứng đầu nhóm hỗ trợ) của trung tâm cho biết, nhiều trẻ em dưới 10 tuổi đã trở thành nạn nhân hoặc thủ phạm, do AI ngày càng dễ sử dụng.

“Thậm chí có trường hợp học sinh lấy ảnh giáo viên hoặc bạn học để tạo video giả rồi chia sẻ như trò đùa”, bà nói. Bà cũng cảnh báo rằng các nội dung giả mạo ngày càng tinh vi, trông rất giống thật, khiến nạn nhân khó chứng minh và xóa bỏ.

Trước sự gia tăng chóng mặt của tội phạm deepfake, Telegram đã thiết lập đường dây nóng với cảnh sát Hàn Quốc, nhằm xử lý kịp thời các nội dung vi phạm. Cuộc điều tra vẫn đang tiếp diễn để xác minh liệu nền tảng này có tiếp tay cho tội phạm tình dục hay không.

Cơ quan Cảnh sát Quốc gia Hàn Quốc cam kết sẽ “truy quét tận gốc” tội phạm tình dục kỹ thuật số, đặc biệt là các hành vi lợi dụng công nghệ để xâm hại quyền riêng tư và danh dự của người khác.