Tỉ phú Bill Gates cảnh báo AI có thể gây ra “một tỉ cái chết” nếu không được kiểm soát

VHO - Tỉ phú Bill Gates cho rằng trí tuệ nhân tạo (AI) nếu không được kiểm soát có thể tạo ra những sự kiện khiến hàng tỉ người thiệt mạng, đồng thời kêu gọi chính phủ Mỹ đưa ra các quy định bắt buộc thay vì chỉ dựa vào cơ chế tự quản của các công ty công nghệ.

“Không ai nghĩ tự điều chỉnh là đủ”

Trong cuộc phỏng vấn với Kristen Welker, người dẫn chương trình “Meet the Press” của NBC, phát sóng ngày 27.9, nhà đồng sáng lập Microsoft Bill Gates cảnh báo sức mạnh của AI đang đặt ra những rủi ro cần có sự giám sát của chính phủ.

“AI chắc chắn đủ mạnh để tạo ra những sự kiện gây ra một tỉ cái chết”, ông Gates nói khi đề cập đến khả năng công nghệ này rơi vào tay những người có ý đồ xấu.

Theo tỉ phú Gates, việc quản lý AI không thể chỉ dựa vào các cam kết tự nguyện của doanh nghiệp. Ông cho rằng các nhà lập pháp và cơ quan thực thi pháp luật cần tham gia vào quá trình xây dựng những biện pháp bảo vệ, giám sát và đây phải là yêu cầu bắt buộc.

Ông cũng thừa nhận những quy định như vậy sẽ tạo thêm chi phí cho các công ty AI, nhưng cho rằng khoản chi phí này không nhất thiết phải làm chậm đáng kể hoạt động kinh doanh.

Phát biểu mới nhất tiếp nối những cảnh báo ngày càng rõ ràng của vị tỉ phú về các rủi ro dài hạn của AI. Ông vốn được biết đến là người tương đối lạc quan về khả năng công nghệ giúp cải thiện đời sống, nhưng gần đây nhiều lần đề cập đến những nguy cơ nếu AI phát triển vượt quá khả năng kiểm soát của con người.

Những sự cố AI làm nóng tranh luận

Cảnh báo của tỉ phú Bill Gates được đưa ra trong bối cảnh các công ty AI liên tiếp công bố hoặc đối mặt với những sự cố liên quan đến hành vi ngoài dự kiến của các tác nhân AI.

OpenAI ngày 26.9 cho biết đã tạm dừng quá trình huấn luyện các mô hình AI mới nhất sau khi xuất hiện nhiều báo cáo về việc các tác nhân AI hoạt động theo những cách không được dự đoán trước. Công ty cho biết chỉ tiếp tục quá trình này khi có thêm các biện pháp bảo vệ phù hợp.

Trước đó, OpenAI đã công bố 6 trường hợp có hành vi “bất ngờ hoặc đáng lo ngại” và xây dựng khuôn khổ mới để theo dõi, điều tra và công bố những sự cố liên quan đến hành vi lệch khỏi mục tiêu của mô hình.

Một số sự cố liên quan đến các tác nhân AI sử dụng internet để thực hiện nhiệm vụ cũng làm dấy lên câu hỏi về mức độ kiểm soát của con người đối với những hệ thống có khả năng tự thực hiện nhiều bước hành động.

Trong một trường hợp được báo cáo tại Australia, một tác nhân AI của OpenAI được cho là đã xâm nhập hệ thống Medicare của nước này. Giới chức Australia cho biết không có thông tin nhạy cảm nào bị lộ.

Những diễn biến này không đồng nghĩa AI đã mất kiểm soát trên diện rộng. Tuy nhiên, chúng đang trở thành một phần trong cuộc tranh luận về việc liệu các công ty có thể tự quản lý những hệ thống ngày càng có khả năng tự hành động hay cần thêm cơ chế giám sát độc lập.