Trung Quốc siết quản lý nội dung AI độc hại nhắm vào trẻ em

VHO - Cục Quản lý Không gian mạng Trung Quốc (CAC) vừa phát động chiến dịch đặc biệt kéo dài 4 tháng nhằm làm sạch môi trường trực tuyến và tăng cường bảo vệ trẻ vị thành niên trên không gian mạng.

Thông báo được đăng tải trên tài khoản WeChat của CAC hôm 20.7 nhấn mạnh các vấn đề liên quan đến hoạt hình và video ngắn độc hại do trí tuệ nhân tạo (AI) tạo ra, đồng thời khẳng định sẽ tăng cường trấn áp tình trạng thổi phồng các "ngôi sao mạng nhí".

CAC cho biết chiến dịch là biện pháp quan trọng nhằm bảo vệ quyền và lợi ích hợp pháp của trẻ vị thành niên, đồng thời bảo đảm sự phát triển lành mạnh của các em.

Về hoạt động tạo và đăng tải nội dung trực tuyến, các hành vi bị xử lý gồm sử dụng AI để tạo hoạt hình độc hại, cố tình nhại lại các nhân vật hoạt hình kinh điển hoặc cường điệu các yếu tố bạo lực, kinh dị. Thông báo cũng nêu rõ sẽ xử lý các nội dung cổ xúy hành vi nguy hiểm, ví dụ như bóp cổ người khác.

Theo CAC, một số tài khoản đã thổi phồng các nhân vật trẻ em gây tranh cãi, như "thần đồng tái sinh" hay "những mỹ nhân nhỏ tuổi tài năng", đồng thời dàn dựng video cổ súy việc trốn học, bỏ học hoặc lan truyền tâm lý "nằm im", khuyến khích các giá trị tiêu cực.

Các vấn đề khác bao gồm việc sản xuất hàng loạt video do AI tạo ra có nội dung kỳ quái, ghê rợn hoặc giật gân, gây ảnh hưởng xấu đến tâm lý trẻ vị thành niên. Một số ứng dụng AI còn tạo ra các nhân vật có hình ảnh phản cảm hoặc sinh ra nội dung mập mờ, tục tĩu cần được khắc phục.

Ông Ding Daoshi, nhà phân tích kỳ cựu trong lĩnh vực AI và internet cho rằng, những thách thức mới do AI đặt ra cần được giải quyết thông qua các chiến dịch chuyên đề.

Theo ông, AI đã làm giảm đáng kể rào cản sản xuất nội dung nghe nhìn dành cho trẻ vị thành niên. Chỉ trong vài phút, người dùng có thể chèn các cảnh máu me, kinh dị hoặc tục tĩu vào phim hoạt hình rồi phát tán hàng loạt trên các nền tảng video ngắn và mạng xã hội với chi phí rất thấp. Vì vậy, nội dung hoạt hình độc hại cần được quan tâm nhiều hơn.

"Các thuật toán AI cũng có thể liên tục đề xuất những nội dung độc hại tương tự dựa trên thói quen xem của một số trẻ em. Vì trẻ vị thành niên chưa hoàn toàn trưởng thành, việc tiếp xúc lặp đi lặp lại có thể khiến các em dần mất cảnh giác trước nội dung bạo lực hoặc phản cảm, thậm chí bắt chước những gì mình nhìn thấy", ông Ding lưu ý.

Theo ông Ding, chiến dịch đã xác định rõ các lĩnh vực trọng điểm cần xử lý, gồm các bản nhái hoạt hình kinh điển bằng AI, nội dung cố tình cường điệu yếu tố bạo lực, kinh dị và các video ngắn độc hại do AI tạo ra.

Ông cho rằng các quy định mới sẽ buộc các nền tảng video ngắn và nhà sáng tạo nội dung phải kiềm chế những hành vi trên, đồng thời thúc đẩy các nền tảng nâng cao tiêu chuẩn kiểm duyệt đối với các sản phẩm do AI tạo ra.

Theo CAC, một số nền tảng và nhóm trực tuyến cũng bị phát hiện có hành vi không phù hợp. Một số cá nhân lợi dụng danh nghĩa "tìm bạn thân" để dụ dỗ trẻ vị thành niên gửi ảnh riêng tư.

Một số nhóm núp bóng "phúc lợi anime" nhằm phát tán truyện tranh khiêu dâm và các nội dung bất hợp pháp khác đến trẻ vị thành niên.

Ngoài ra, biểu tượng cảm xúc gợi dục và tiếng lóng tục tĩu thường xuyên xuất hiện dưới các video có trẻ vị thành niên, cấu thành hành vi quấy rối.

Chiến dịch được chia thành hai giai đoạn. Giai đoạn đầu tập trung kiểm soát toàn bộ quy trình sản xuất và phát tán nội dung trong kỳ nghỉ hè.

Giai đoạn hai sẽ rà soát các hiện tượng tiêu cực và rủi ro nổi bật có thể ảnh hưởng đến sức khỏe thể chất và tinh thần của trẻ vị thành niên.

Ở giai đoạn hai, cơ quan quản lý không gian mạng Trung Quốc sẽ tập trung chuẩn hóa hệ thống đề xuất nội dung của các nền tảng, đồng thời tiếp tục xử lý tình trạng đề xuất nội dung độc hại, lan truyền các giá trị tiêu cực, sử dụng hình ảnh trẻ vị thành niên không phù hợp và xâm phạm quyền riêng tư của các em.

Các nền tảng được yêu cầu giới hạn hợp lý thời lượng và tần suất xuất hiện của trẻ vị thành niên trên các tài khoản, đồng thời cấm việc để trẻ xuất hiện thường xuyên nhằm mục đích kiếm lợi nhuận.

Các công ty quản lý mạng đa kênh cũng không được phép lợi dụng tài khoản của mình để quảng bá các "ngôi sao mạng nhí".