Một sự cố an ninh mạng chấn động vừa được chính quyền Australia công bố, được mô tả là lần đầu tiên một tác nhân AI bị phát hiện tự ý tấn công vào hệ thống mạng của chính phủ.

Cụ thể, Thủ tướng Australia Anthony Albanese xác nhận rằng một tác nhân AI phát triển bởi OpenAI đã xâm nhập sâu vào cơ sở dữ liệu y tế quốc gia của nước này.

Phát biểu trước giới truyền thông bên lề kỳ họp Đại hội đồng Liên Hợp Quốc diễn ra ở New York vào ngày 23/9, ông Albanese cho biết: “Tác nhân AI đã truy cập cả các tệp công khai và không công khai trong cơ sở dữ liệu thống kê Medicare của Australia, thậm chí còn ghi các tệp vào hệ thống này".

25-1790302099-australia-phat-hien-ai-tu-y-tan-cong-he-thong-cua-chinh-phu
Ảnh minh họa

Ông Albanese cũng khẳng định chính quyền chưa từng ghi nhận bất kỳ tiền lệ nào về việc hệ thống công quyền bị can thiệp theo phương thức này.  

Ngay sau khi sự việc xảy ra, thủ tướng Albanese đã có cuộc trao đổi trực tiếp với CEO OpenAI Sam Altman. Nhằm làm rõ quy mô vụ việc, các cơ quan an ninh mạng đang ráo riết vào cuộc. Ông Albanese nhấn mạnh: “Một cuộc điều tra với sự hỗ trợ của Cục Tín hiệu Úc đang được tiến hành nhằm tìm hiểu thêm thông tin, để xác định xem những hệ thống chính phủ nào khác đã bị ảnh hưởng”.

Theo người đứng đầu chính phủ Australia, ba cơ quan công quyền khác cũng nằm trong diện nghi vấn có thể đã bị tác động, bao gồm Viện Y tế và Phúc lợi, Cục Thống kê và nghiên cứu tội phạm bang New South Wales, cùng Cơ quan Y tế bang Victoria.

Vụ xâm nhập bắt nguồn từ quá trình một tác nhân AI của OpenAI thực hiện nhiệm vụ nghiên cứu liên quan đến chi tiêu y tế. Trong quá trình tìm kiếm câu trả lời, mô hình này đã tự ý vượt qua các rào cản kỹ thuật để thâm nhập vào các phân vùng mà nó không được cấp quyền tiếp cận.  

Đại diện phía OpenAI Drew Pusateri cho biết sự cố thực tế đã phát sinh từ tháng 6, nhưng phải đến tháng 8 công ty mới phát hiện trong một đợt rà soát diện rộng đối với các mô hình AI.

Ông Pusateri giải thích: “Trong quá trình rà soát này, chúng tôi phát hiện hoạt động liên quan đến một số trang web và dịch vụ của chính phủ Úc, khi các mô hình của chúng tôi cố gắng tìm kiếm câu trả lời và các số liệu thống kê có sẵn cho những câu hỏi về Australia trong một cuộc đánh giá nội bộ. Trong quá trình đó, các mô hình của chúng tôi đã thực hiện những hành động mà chúng tôi không yêu cầu”.  

Dù phía OpenAI khẳng định chưa có bằng chứng cho thấy hồ sơ bệnh nhân bị truy xuất, đồng thời cho biết dữ liệu bị ảnh hưởng chỉ dừng lại ở “các số liệu thống kê y tế tổng hợp và tên các tệp nội bộ”, chính phủ Australia vẫn phản ứng gay gắt.  

Thủ tướng Albanese đã bày tỏ “quan ngại cực kỳ nghiêm trọng” tới người đứng đầu OpenAI, đồng thời chỉ trích sự chậm trễ từ phía tập đoàn công nghệ này. Ông chia sẻ với các phóng viên: “Tôi cũng bày tỏ thất vọng khi công ty đã mất quá nhiều thời gian để thông báo cho chính phủ về những gì đã xảy ra. Cách thức thông báo cũng không thể chấp nhận được. Tôi nghĩ OpenAI hiểu rằng họ cần phải có những quy trình tốt hơn”.  

Sự cố tại Australia là minh chứng rõ nét cho thấy rủi ro ngày càng hiện hữu khi các tác nhân AI bắt đầu hành xử ngoài tầm kiểm soát và vượt qua chủ đích ban đầu của người lập trình. Đáng chú ý, đây không phải là lần đầu mô hình của OpenAI đi chệch quỹ đạo đã định.

Tháng 7 vừa qua, hãng tiết lộ trong đợt thử nghiệm an ninh mạng rằng các mô hình của họ đã tự thiết lập một mạng lưới tác nhân AI để tấn công hệ thống của công ty AI Hugging Face. Giới quan sát trong ngành khi ấy đã cảnh báo đây là biểu hiện tiêu biểu cho những hiểm họa tiềm ẩn từ sự phát triển thần tốc cũng như năng lực ngày một mở rộng của công nghệ AI.  

Trước những diễn biến phức tạp, nhiều nhân vật chủ chốt trong lĩnh vực trí tuệ nhân tạo, bao gồm chính ông Sam Altman, đã liên tục lên tiếng kêu gọi kìm hãm tốc độ phát triển AI.

Cũng trong ngày 23/9 tại diễn đàn Đại hội đồng Liên Hợp Quốc, ông Altman cùng với CEO Dario Amodei của Anthropic đã kêu gọi cộng đồng quốc tế siết chặt hợp tác và thiết lập khung tiêu chuẩn chung.

CEO của OpenAI đặc biệt thúc giục giới lãnh đạo toàn cầu nhanh chóng đề ra các tiêu chuẩn quốc tế nhằm “đo lường năng lực, đánh giá rủi ro, xác định liệu các biện pháp bảo vệ có đủ hay không và duy trì sự giám sát có ý nghĩa của con người” trước đà tăng tốc chóng mặt của ngành công nghiệp này.

PV (SHTT)