AI trong vòng kiểm soát pháp lý

VHO - Tốc độ phát triển nhanh chóng của AI đang kéo theo những rủi ro mới, khi hệ thống ngày càng có khả năng tự chủ và đôi lúc thực hiện những hành vi vượt ngoài sự kiểm soát của con người. Giờ đây, các công ty AI hàng đầu thế giới đang cảnh báo về rủi ro mà AI gây ra cho nhân loại, đồng thời kêu gọi các nước hợp tác quản lý công nghệ này.

Vào cuối tháng 9, Australia cho biết một tác nhân AI của OpenAI đã xâm nhập vào cổng thông tin dữ liệu y tế của chính phủ nước này và truy cập trái phép vào các tệp tin hồi tháng 6. Đây là trường hợp được ghi nhận về việc một tác nhân AI tấn công trang web của chính phủ.

OpenAI thừa nhận mô hình AI đã xâm nhập vào một số trang web và hệ thống của chính phủ Australia trong quá trình huấn luyện và đánh giá nội bộ.

Cũng trong tháng 9, một công ty nghiên cứu AI cho biết các tác nhân AI đã tìm cách xâm nhập vào một trang web của chính phủ Canada song không thành công. Các tác nhân này đã cố truy cập vào hệ thống của Thư viện và Lưu trữ Quốc gia Canada vào ngày 28.5 và 9.6.

Tại Hàn Quốc, loạt vụ tấn công liên tiếp nhằm vào các ngân hàng và công ty tài chính trong năm nay, làm gia tăng lo ngại về nguy cơ AI được sử dụng để hỗ trợ hoạt động tấn công mạng, trong khi khả năng bảo vệ dữ liệu của các tổ chức tài chính đang được đặt dưới sự giám sát chặt chẽ.

Bảy tổ chức tài chính đã báo cáo các vụ xâm nhập dữ liệu gồm: Shinhan Bank, KB Kookmin Bank, Hana Bank, BNK Busan Bank, Yegaram Savings Bank, Welcome Savings Bank và Hyundai Capital.

Shinhan Bank cho biết thông tin của khoảng 25.000 khách hàng bị rò rỉ, trong khi Yegaram Savings Bank ghi nhận khoảng 40.000 khách hàng bị ảnh hưởng. Tổng số người bị ảnh hưởng tại 7 tổ chức được ước tính hơn 67.000.

Theo nhận định của chuyên gia, thế giới giờ đây đang gặp khó khăn trong việc theo kịp tốc độ phát triển nhanh chóng của AI.

Tập đoàn công nghệ AI OpenAI của Mỹ mới đây cũng công bố 6 báo cáo về các sự cố liên quan đến các hành vi bất thường của AI, đồng thời cam kết sẽ báo cáo có hệ thống hơn về những trường hợp các mô hình AI hoạt động chệch hướng trong thời gian tới.

Cam kết minh bạch trên cũng được đưa ra sau loạt sự cố tại OpenAI bị rò rỉ gần đây. Nghiêm trọng nhất là trường hợp hai mô hình của công ty, trong quá trình thử nghiệm đã tự ý vượt khỏi môi trường được kiểm soát để truy cập internet và xâm nhập vào một số trang web cũng như nền tảng số.

Theo OpenAI, cơ chế báo cáo mới được thiết kế nhằm giúp các chuyên gia và công chúng bên ngoài hiểu rõ hơn về năng lực thực tế của các mô hình AI tiên tiến, qua đó cung cấp cơ sở dữ liệu xác thực cho các cuộc thảo luận về tốc độ phát triển của công nghệ này.

Trong một nghiên cứu, số lượng sự cố, trong đó có việc AI thoát khỏi tầm kiểm soát của người dùng và theo đuổi các mục tiêu gây hại đã lên mức cao kỷ lục. Nghiên cứu cũng cho thấy mức độ nghiêm trọng của hành vi lừa dối và lệch khỏi mục tiêu của con người đang gia tăng.

Theo Loss of Control Observatory - cơ quan theo dõi các báo cáo do người dùng AI đăng trên nền tảng mạng xã hội X, số lượng sự cố mất kiểm soát trong thực tế liên quan đến các mô hình AI được doanh nghiệp và cá nhân ghi nhận đã gần như tăng gấp đôi vào tháng 7 so với tháng 6 năm nay, với hơn 300 trường hợp trong tháng.

Những phát hiện mới nhất xuất hiện trong bối cảnh ngày càng có nhiều lo ngại về hành vi ngoài kiểm soát của các mô hình AI tiên tiến trong quá trình thử nghiệm của OpenAI và Anthropic vào mùa hè này, qua đó làm gia tăng lời kêu gọi tạm dừng phát triển các mô hình AI tiên phong.

Khi ngày càng có nhiều thông tin chi tiết về những hành vi ngoài tầm kiểm soát được công bố, các quan chức Mỹ cho biết các công ty AI phải chịu trách nhiệm pháp lý đối với hành động của các hệ thống AI. 

Bang Florida (Mỹ) là một trong những bang đầu tiên yêu cầu tòa án đình chỉ phát triển các mô hình mới của OpenAI, cho đến khi công ty áp dụng thêm các biện pháp bảo vệ. Ủy ban Thương mại Liên bang Mỹ (FTC) cũng mở rộng cuộc điều tra về việc liệu OpenAI và các công ty cùng ngành có đánh lừa khách hàng về những nguy cơ tiềm ẩn hay không.

Chính phủ Australia đã thành lập một lực lượng đặc nhiệm để điều tra toàn diện sự cố một tác nhân trí tuệ nhân tạo của công ty công nghệ OpenAI thâm nhập trái phép vào website dịch vụ thống kê y tế của Chính phủ nước này.

Tại phiên điều trần trước Quốc hội Australia, bên cạnh bài toán an ninh, các đại diện cũng thảo luận kỹ hơn về bản quyền dữ liệu huấn luyện. Trong khi đó, Hàn Quốc cũng họp khẩn toàn ngành tài chính sau chuỗi tấn công mạng nghi có AI tác động và mở điều tra sơ bộ về vụ việc này.

Giờ đây, trước diễn biến gia tăng những thách thức từ tác nhân AI, các nước đang đứng trước yêu cầu cấp thiết phải tăng cường các biện pháp bảo mật, giám sát và kiểm soát đối với hoạt động của các hệ thống AI.

Điều này đặt ra yêu cầu xây dựng các cơ chế quản lý và bảo vệ phù hợp nhằm hạn chế nguy cơ tác nhân AI bị lạm dụng hoặc tự chủ thực hiện các hành vi gây mất an toàn trên không gian mạng.