Australia cân nhắc buộc các kho ứng dụng và công cụ tìm kiếm gỡ bỏ dịch vụ AI không an toàn

VHO - Từ ngày 9.3, các dịch vụ internet không hạn chế người dùng dưới 18 tuổi tiếp cận nội dung khiêu dâm, bạo lực hoặc liên quan đến tự gây tổn hại sẽ bị xử phạt.

Siết chặt quản lý AI

Cơ quan quản lý internet của Australia cho biết có thể yêu cầu các công cụ tìm kiếm và kho ứng dụng chặn những dịch vụ trí tuệ nhân tạo (AI) không xác minh độ tuổi người dùng, sau khi rà soát cho thấy hơn nửa số dịch vụ này chưa công bố bất kỳ biện pháp tuân thủ nào trước thời hạn vào tuần tới.

Cảnh báo này phản ánh một trong những nỗ lực mạnh mẽ nhất trên thế giới nhằm siết chặt hoạt động của các công ty AI.

Nhiều công ty đang phải đối mặt với ngày càng nhiều vụ kiện vì không ngăn chặn các nội dung liên quan đến tự gây tổn hại hoặc bạo lực. Trong khi đó, các nhà nghiên cứu cũng cảnh báo nền tảng này có thể gây tác động tiêu cực tới sức khỏe tâm thần của thanh thiếu niên còn lớn hơn cả mạng xã hội.

Tháng 12 năm ngoái, Australia trở thành quốc gia đầu tiên cấm thanh thiếu niên sử dụng mạng xã hội. Động thái đã khiến nhiều nhà lãnh đạo trên thế giới tuyên bố sẽ cân nhắc thực hiện biện pháp tương tự.

Hiện nay, quốc gia này đang dẫn đầu chiến dịch siết chặt quản lý AI bằng cách áp đặt các giới hạn độ tuổi đối với những nội dung mà người dùng có thể tiếp cận thông qua công nghệ này.

Theo quy định mới, từ ngày 9.3, các dịch vụ internet tại Australia, bao gồm cả các công cụ tìm kiếm như OpenAI với chatbot ChatGPT cùng nhiều chatbot đồng hành khác, phải hạn chế người dùng dưới 18 tuổi tiếp cận nội dung khiêu dâm, bạo lực cực đoan, tự gây tổn hại hoặc rối loạn ăn uống.

Nếu vi phạm, các nền tảng có thể bị phạt tới 49,5 triệu đô la Australia (khoảng 35 triệu USD).

Trong thời gian gần đây, OpenAI và công ty chatbot Character.AI cũng phải đối mặt với các vụ kiện liên quan đến trường hợp tử vong của người dùng trẻ tuổi, khi gia đình nạn nhân cáo buộc các cuộc trò chuyện với chatbot đã góp phần dẫn đến hành vi tự gây tổn hại.  

Australia hiện chưa ghi nhận các vụ bạo lực hay tự gây tổn hại liên quan trực tiếp đến chatbot. Tuy nhiên, cơ quan quản lý cho biết họ đã nhận được thông tin về việc trẻ em chỉ mới 10 tuổi sử dụng các công cụ tương tác chạy bằng AI tới sáu giờ mỗi ngày.

Nhà điều hành kho ứng dụng lớn Apple chưa phản hồi trực tiếp, nhưng trang web của hãng cho biết sẽ sử dụng “các phương pháp hợp lý” để ngăn người dưới 18 tuổi tải các ứng dụng dành cho người trưởng thành (18+) tại Australia và những khu vực khác đang áp dụng quy định giới hạn độ tuổi, dù chưa nêu rõ các phương thức cụ thể.

Trong khi đó, Google hiện chưa đưa ra bình luận về vấn đề này.

Nghĩa vụ pháp lý

Bà Jennifer Duxbury, Giám đốc chính sách của DIGI cho biết cơ quan eSafety đang cố gắng thông báo cho các dịch vụ chatbot về các quy định mới. Mọi dịch vụ hoạt động tại Australia đều phải tự chịu trách nhiệm hiểu rõ nghĩa vụ pháp lý và đảm bảo tuân thủ.

Theo đánh giá của Reuters, được thực hiện một tuần trước thời hạn mà Australia đặt ra, chỉ 9 trong số 50 sản phẩm AI dạng văn bản phổ biến nhất đã triển khai hoặc công bố kế hoạch áp dụng hệ thống xác minh độ tuổi người dùng.

Cuộc rà soát này dựa trên phản hồi của từng nền tảng đối với các câu hỏi yêu cầu nội dung bị hạn chế, các chính sách kiểm duyệt nội dung, cùng với những tuyên bố công khai như điều khoản dịch vụ và thông cáo báo chí của các nền tảng.

Theo SCMP, một cuộc rà soát cho thấy 11 nền tảng khác đã áp dụng bộ lọc nội dung toàn diện hoặc có kế hoạch chặn toàn bộ người dùng tại Australia truy cập dịch vụ, những biện pháp có thể đáp ứng quy định mới bằng cách ngăn nội dung bị hạn chế tiếp cận với tất cả người dùng.

Tuy nhiên, vẫn còn 30 nền tảng chưa cho thấy bất kỳ bước đi rõ ràng nào để tuân thủ các quy định mới.

Phần lớn các trợ lý tìm kiếm dựa trên chatbot lớn như ChatGPT, Replika và Claude của Anthropic đã bắt đầu triển khai hệ thống xác minh độ tuổi hoặc áp dụng bộ lọc nội dung toàn diện.

Trong khi đó, nhà cung cấp chatbot Character.AI đã ngừng tính năng trò chuyện mở đối với người dùng dưới 18 tuổi.

Các nhà cung cấp chatbot đồng hành như Candy AI, Pi, Kindroid và Nomi cho biết họ có kế hoạch tuân thủ quy định mới, nhưng chưa nêu chi tiết các biện pháp cụ thể. Trong khi đó, HammerAI cho biết sẽ tạm thời chặn người dùng tại Australia truy cập dịch vụ để đáp ứng yêu cầu của bộ quy tắc.