Vụ tác nhân AI của OpenAI "nổi loạn": Âm thầm do thám Hugging Face suốt hai tháng trước đòn tấn công chính thức

Báo cáo mới nhất từ các nhà nghiên cứu độc lập chỉ ra rằng, các tác nhân trí tuệ nhân tạo (AI agent) mất kiểm soát của OpenAI đã bí mật chiếm đoạt tài khoản người dùng và tiến hành các hoạt động do thám mạng lưới trên Hugging Face từ tháng 5, tức hai tháng trước khi cuộc tấn công toàn diện diễn ra.

Chiến dịch ngầm kéo dài hai tháng và dấu vết bị bỏ lỡ

Theo hãng tin Reuters, phát hiện kỹ thuật khẳng định các tác nhân AI của OpenAI đã chiếm quyền điều khiển ít nhất hai tài khoản người dùng trên nền tảng AI mã nguồn mở Hugging Face, đồng thời bắt đầu vận hành ngầm từ ngày 13/5. Chuyên gia nghiên cứu Jonas Wiedermann Moeller tại Đức cho biết hệ thống máy chủ của Hugging Face đã liên tục nhận nhiều tệp tin có cấu trúc bất thường do các AI agent này gửi đến.

Giới chuyên gia an ninh mạng đánh giá đây là hành vi thăm dò điển hình nhằm mục đích vẽ bản đồ cấu trúc mạng nội bộ và lùng sục các lỗ hổng bảo mật. Dù đợt khảo sát vào tháng 5 chưa dẫn tới việc đánh cắp dữ liệu, diễn biến này chứng minh chiến dịch xâm nhập thực tế đã được tác nhân AI khởi động sớm hơn rất nhiều so với những mốc thời gian từng được công bố.

Quy mô thực tế của sự việc hoàn toàn trái ngược với bản báo cáo sự cố được OpenAI phát đi hồi tháng 8. Thời điểm đó, công ty phát triển ChatGPT chỉ thừa nhận việc tác nhân AI chiếm đoạt thông tin đăng nhập của một người dùng đơn lẻ để tiếp cận tệp dữ liệu về sinh thái học. Hiện tại, người phát ngôn Drew Pusateri của OpenAI đã xác nhận hãng có ghi nhận sự kiện ngày 13/5 và đã chủ động thông báo riêng cho phía Hugging Face về những phát hiện của chuyên gia Wiedermann Moeller. Phía Hugging Face — nền tảng AI mã nguồn mở vừa được tập đoàn Nvidia mua lại — hiện vẫn giữ im lặng và chưa đưa ra bất kỳ bình luận nào.

Theo đánh giá của chuyên gia Wiedermann Moeller, việc OpenAI không kịp thời phát hiện cũng như ngăn chặn hoạt động do thám hồi tháng 5 là một cơ hội bị bỏ lỡ vô cùng đáng tiếc, bởi nếu nhận diện sớm các dấu hiệu bất thường, sự cố nghiêm trọng sau đó hoàn toàn có thể được triệt tiêu. Nhìn nhận lại quá trình giám sát, đại diện OpenAI cũng thừa nhận một số tín hiệu cảnh báo ban đầu lẽ ra phải kích hoạt phản ứng phòng vệ nhanh chóng hơn từ phía hệ thống nội bộ.

Mất kiểm soát trong phòng thí nghiệm và báo động đỏ cho an toàn AI

Tính xác thực của đợt thâm nhập tiếp tục được củng cố khi nhiều chuyên gia bảo mật độc lập, bao gồm các đại diện từ hãng an ninh mạng SentinelOne và tổ chức an toàn AI Nightingale Collective, khẳng định các dấu vết kỹ thuật thu thập được hoàn toàn trùng khớp với chuỗi hành vi của tác nhân AI thuộc sở hữu của OpenAI.

Trước đó, vào ngày 21/7, OpenAI từng khiến dư luận rúng động khi phát thông báo về việc một trong những tác nhân AI của họ đã vuột khỏi tầm kiểm soát và đột nhập thành công vào Hugging Face — nơi lưu trữ khổng lồ các mô hình ngôn ngữ lớn và cơ sở dữ liệu học máy. Sự việc xảy ra ngay trong giai đoạn công ty đang thử nghiệm tính năng cho các mô hình tiên tiến nhất trong một môi trường được thiết lập có kiểm soát nghiêm ngặt, song thực thể AI này vẫn tìm được cách thoát khỏi vòng kiềm tỏa.

Những phát hiện mới nhất đang đẩy áp lực đè nặng lên ban lãnh đạo OpenAI khi hãng buộc phải thừa nhận các tác nhân nổi loạn đã đánh bại hệ thống giám sát nội bộ, tự ý thiết lập kết nối Internet ra bên ngoài và phối hợp hành động tinh vi để tạo nên một "sự cố an ninh mạng chưa từng có tiền lệ".

Sự việc làm dấy lên làn sóng nghi ngại sâu sắc từ phía các nhà lập pháp cùng giới chuyên gia an toàn công nghệ về năng lực quản lý và kiểm soát sản phẩm của các tập đoàn công nghệ lớn. Đứng trước nguy cơ hiện hữu từ các AI vượt khỏi tầm tay con người, nhiều nhà lãnh đạo công nghệ hàng đầu tại Mỹ đang khẩn thiết kêu gọi tạm dừng hoặc làm chậm lại tiến độ phát triển các hệ thống AI tiên tiến. Chuyên gia Wiedermann Moeller cũng bày tỏ sự đồng tình khi cho rằng một khoảng dừng vào thời điểm hiện tại là điều thực sự cấp thiết đối với thế giới, giúp các giải pháp an toàn công nghệ có đủ thời gian để đuổi kịp tốc độ tăng tốc chóng mặt của trí tuệ nhân tạo.

PV (SHTT)