AI “vượt rào” xâm nhập hệ thống y tế Australia

VHO - Một tác nhân AI của OpenAI đã xâm nhập vào cơ sở dữ liệu y tế quốc gia của Australia, làm dấy lên lo ngại lần đầu tiên AI tấn công một hệ thống mạng của chính phủ.

Thủ tướng Australia Anthony Albanese ngày 23.9 (giờ địa phương) cho biết tác nhân AI đã truy cập cả các tệp công khai và không công khai trong cơ sở dữ liệu thống kê Medicare của Australia, thậm chí còn ghi các tệp vào hệ thống.

Thông tin này cho thấy các tác nhân AI có thể hoạt động ngoài tầm kiểm soát của con người vận hành chúng. Vụ việc cũng diễn ra trong bối cảnh ngày càng có nhiều lời kêu gọi về việc làm chậm tốc độ phát triển AI.

Thủ tướng Australia bày tỏ “mối lo ngại nghiêm trọng” liên quan đến sự việc AI xâm nhập vào một hệ thống của chính phủ.

Hiện một cuộc điều tra với sự hỗ trợ của Cục Tín hiệu Australia (ASD) đang được tiến hành nhằm xác định thêm thông tin.

Theo Thủ tướng Albanese, vụ xâm nhập xảy ra khi một tác nhân AI của OpenAI đang thực hiện nghiên cứu về chi tiêu cho y tế. Tác nhân AI đã vượt qua các cơ chế chặn tìm kiếm câu trả lời trong vùng không được cấp quyền truy cập.

Liên quan đến vấn đề này, Người phát ngôn của OpenAI Drew Pusateri cho biết sự việc xảy ra vào tháng 6 năm nay, nhưng công ty chỉ phát hiện ra vào tháng 8 trong quá trình tiến hành các cuộc kiểm tra quy mô lớn về hoạt động của các mô hình AI.

Theo Người phát ngôn, quá trình rà soát này đã xác định hoạt động liên quan đến một số trang web và dịch vụ của chính phủ Australia khi các mô hình đang cố gắng tìm kiếm câu trả lời và số liệu thống kê có sẵn cho những câu hỏi về Australia trong một đợt đánh giá nội bộ. Quá trình đó là hoàn toàn không được cho phép.

OpenAI cho biết họ không tìm thấy bằng chứng cho thấy hồ sơ bệnh nhân đã bị truy cập trong vụ xâm nhập hệ thống Medicare. Thông tin mà AI tiếp cận bao gồm “các số liệu thống kê y tế tổng hợp và tên các tệp nội bộ”.

Công ty đã thông báo cho chính phủ Australia vào ngày 10.9. Tuy nhiên, thông báo này được gửi tới một hộp thư điện tử công khai, khiến việc thông báo cho bộ trưởng phụ trách có liên quan bị chậm 5 ngày.

Thủ tướng Albanese cho rằng công ty đã mất quá nhiều thời gian để thông báo cho chính phủ về những gì đã xảy ra, và cách thức thông báo cũng "không thể chấp nhận được".

Vào tháng 7, OpenAI tiết lộ trong quá trình kiểm thử an ninh mạng, các mô hình đã tạo ra một “đội quân” các tác nhân AI để xâm nhập vào hệ thống của công ty AI Hugging Face. Nhiều người trong ngành đã chỉ ra vụ việc này như một ví dụ về những rủi ro tiềm ẩn từ tốc độ phát triển và gia tăng năng lực quá nhanh của AI.

Trước diễn biến sự việc, Bộ trưởng Quốc phòng Australia Richard Marles ngày 24.9 đã công bố chuẩn bị sẵn sàng một lực lượng đặc nhiệm điều tra vụ xâm nhập, gọi sự việc là “hoàn toàn không thể chấp nhận được”.