Hàn Quốc tuyên chiến với công nghệ trí tuệ nhân tạo giả mạo

VHO - Hàn Quốc vừa triển khai chiến dịch trấn áp tội phạm tình dục kỹ thuật số nhằm vào phụ nữ và trẻ em gái - những người vô tình trở thành nạn nhân của công nghệ trí tuệ nhân tạo giả mạo (deepfake) khiêu dâm. Những thông tin được tiết lộ đã gây ra một làn sóng phẫn nộ chưa từng có tại xứ sở Kim chi …

Hàn Quốc vừa triển khai chiến dịch trấn áp tội phạm tình dục kỹ thuật số nhằm vào phụ nữ và trẻ em gái - những người vô tình trở thành nạn nhân của công nghệ trí tuệ nhân tạo giả mạo (deepfake) khiêu dâm. Những thông tin được tiết lộ đã gây ra một làn sóng phẫn nộ chưa từng có tại xứ sở Kim chi …

 Phát động chiến dịch trấn áp tội phạm kỹ thuật số

Theo Korean Times, tại Hàn Quốc, một đường dây chat Telegram khoảng 212.000 thành viên đã bị phát hiện khi lan truyền hình ảnh nhạy cảm của phụ nữ, trong đó có video ghép khuôn mặt các nữ idol Kpop vào “phim người lớn”. Cũng theo tờ báo này, ngoài phòng chat Telegram trên, theo thống kê, có đến hơn 200 thần tượng nữ Hàn Quốc đã bị phát tán trên một trang web phim khiêu dâm bởi công nghệ deepfake.

Korean Times thông tin, để tham gia nhóm chat này, người dùng sẽ phải gửi hình ảnh và thông tin cá nhân của một phụ nữ. Các đối tượng xấu sẽ lưu trữ và sử dụng thông tin này để tạo ra các video deepfake giả mạo khiêu dâm, sau đó phát tán lên mạng xã hội. Ngoài ra, một trong những nguyên nhân gây ra làn sóng phẫn nộ chưa từng có tại Hàn Quốc chính là việc những phòng chat này sử dụng cả thông tin và hình ảnh của trẻ vị thành niên cho mục đích xấu. Nó tạo nên “bóng ma” đen tối bao trùm lên xứ sở Kim chi, khiến rất nhiều người lo lắng có thể trở thành nạn nhân của tội phạm deepfake.

Báo cáo “Tình hình deepfake năm 2023” do Công ty an ninh mạng Security Hero có trụ sở tại Hoa Kỳ công bố cho thấy, các ngôi sao Kpop có nguy cơ rất cao trở thành nạn nhân của deepfake. Theo đó, báo cáo đã đưa ra con số 95.820 video đăng trên 10 trang web khiêu dâm deepfake và 85 kênh deepfake trên các nền tảng mạng xã hội như YouTube, Vimeo, Dailymotion… vào tháng 7 và tháng 8 năm ngoái.

Văn phòng Tổng thống Hàn Quốc Yoon Suk-yeol cũng phát đi thông báo về chiến dịch trấn áp tội phạm tình dục kỹ thuật số, bắt đầu từ tháng 9.2024, tập trung mạnh vào những kẻ lợi dụng trẻ em và thanh thiếu niên. “Deepfake lan truyền rất nhanh trên mạng xã hội, nhiều nạn nhân là trẻ vị thành niên và hầu hết thủ phạm cũng ở tuổi vị thành niên”, Tổng thống Hàn Quốc nói trong cuộc họp nội các.

Trước tình hình ngày càng nghiêm trọng, YG Entertainment lên tiếng sẽ không khoan nhượng với những hành vi này. “Chúng tôi sẽ áp dụng biện pháp pháp lý với những hành vi gây tổn hại đến danh tiếng các nghệ sĩ”, đại diện một công ty quản lý Kpop cho biết.

Gần 7 triệu USD ngân sách cho cuộc chiến chống deepfake

Chỉ trong 7 tháng đầu năm 2024, cảnh sát Hàn Quốc ghi nhận đến 297 vụ tội phạm deepfake khiêu dâm được báo cáo, tăng từ 180 vụ năm ngoái và gấp đôi năm 2021. Hơn 60% nghi phạm là trẻ vị thành niên. Theo luật của Hàn Quốc, những cá nhân tham gia biên tập, tổng hợp hoặc xử lý nội dung deepfake phải đối mặt với mức án lên tới 5 năm tù hoặc phạt tiền lên tới 50 triệu won (37.400 USD). Còn những kẻ phân phối nội dung đó để kiếm lợi có thể bị kết án tới 7 năm tù.

Cơ quan Cảnh sát quốc gia Hàn Quốc cho biết sẽ đầu tư 9,1 tỉ won (6,8 triệu USD) trong 3 năm tới để phát triển công nghệ phát hiện tội phạm deepfake, sao chép giọng nói và các nội dung giả mạo khác. Cùng với đó là 500 triệu won cho năm 2025 để nâng cấp chương trình phần mềm theo dõi deepfake và các video do AI tạo ra. Kế hoạch ngân sách năm 2025 cũng bao gồm việc thành lập quỹ trị giá 1 tỉ won để thưởng cho những người cung cấp thông tin về tội phạm có tổ chức, như cờ bạc trực tuyến hoặc các phần mềm lừa đảo trên không gian số.

Ngoài ra, Chính phủ Hàn Quốc sẽ đầu tư khoảng 5,5 tỉ won cho việc nâng cấp Trung tâm phản ứng của nhà nước đối với các chương trình gian lận tài chính, bổ sung chức năng mới là chặn số điện thoại được sử dụng để lừa đảo…

Năm 2026, Chính phủ nước này dự định chi 7,7 tỉ won cho kế hoạch cung cấp gần 9.000 camera đeo trên người cho cảnh sát để ghi lại hiện trường vụ án, thu thập bằng chứng và 7,6 tỉ won để trang bị cho cảnh sát áo khoác chống đạn, dùi cui và súng điện tiên tiến hơn. Tuy nhiên, kế hoạch ngân sách trên còn cần sự thông qua của Quốc hội Hàn Quốc.