CEO Microsoft Satya Nadella cho rằng các tác nhân AI có thể gây ra rủi ro bảo mật ngay trên thiết bị của người dùng, kể cả khi chúng được chủ động cài đặt và cấp quyền.

Trong cuộc phỏng vấn với nhà báo Joanna Stern của The New Things ngày 15/10, CEO Microsoft Satya Nadella đã đưa ra cảnh báo về những nguy cơ bảo mật từ các tác nhân AI có khả năng tự thực hiện công việc trên máy tính.

“Tôi xem tác nhân AI là rủi ro nội bộ và áp dụng các biện pháp kiểm soát phù hợp”, ông Nadella cho biết.

Khác với những công cụ chỉ trả lời câu hỏi hoặc hỗ trợ soạn thảo văn bản, tác nhân AI có thể chủ động thực hiện một chuỗi nhiệm vụ thay con người. Chúng có khả năng tìm kiếm tài liệu, mở ứng dụng và xử lý nhiều công việc liên tiếp mà không cần người dùng hướng dẫn từng bước.

Tuy nhiên, chính khả năng tự vận hành này cũng tạo ra những vấn đề mới về an toàn thông tin. Khi được cấp quyền truy cập, AI có thể tiếp xúc với dữ liệu nhạy cảm, thực hiện thao tác ngoài ý muốn hoặc bị lợi dụng để hành động trái với yêu cầu ban đầu.

19-1792377321-ceo-microsoft-canh-bao-tac-nhan-ai-co-the-tro-thanh-moi-de-doa-bao-mat-tren-may-tinh
CEO Microsoft cảnh báo mối nguy từ chính các công cụ AI. Ảnh: Bloomberg.

Đáng chú ý, theo cảnh báo của CEO Microsoft, rủi ro không chỉ xuất phát từ phần mềm độc hại bên ngoài. Ngay cả những công cụ AI do người dùng tự cài đặt và cho phép truy cập vào hệ thống cũng có thể trở thành mối đe dọa.

Trước những nguy cơ trên, Microsoft đang xây dựng các biện pháp nhằm kiểm soát chặt chẽ hơn cách tác nhân AI hoạt động trên Windows.

Theo kế hoạch, mỗi tác nhân AI sẽ được cấp mã nhận diện riêng và vận hành trong một môi trường tách biệt. Quyền truy cập dữ liệu cũng được giới hạn theo từng nhiệm vụ, nhằm giảm nguy cơ công cụ sử dụng thông tin vượt quá phạm vi cần thiết.

Bên cạnh đó, hãng phần mềm muốn mở rộng vai trò của Windows Defender, vốn được sử dụng để phát hiện phần mềm độc hại. Hệ thống này sẽ hướng tới việc theo dõi cả hoạt động của các tác nhân AI, thay vì chỉ tập trung vào những mối đe dọa truyền thống.

Khi phát hiện hành vi bất thường, Windows Defender có thể đưa ra cảnh báo hoặc ngăn tác nhân AI tiếp tục thực hiện nhiệm vụ. Cách tiếp cận này nhằm bổ sung một lớp kiểm soát đối với những công cụ có khả năng tự thao tác trên máy tính.

Ông Nadella cho rằng máy tính cần có phần mềm diệt virus dành riêng cho AI để kiểm soát những rủi ro phát sinh từ nhóm công cụ mới.

Cảnh báo của CEO Microsoft được đưa ra trong bối cảnh công ty muốn đưa trí tuệ nhân tạo tham gia sâu hơn vào các hoạt động thường ngày. Thay vì chỉ hỗ trợ người dùng tìm kiếm thông tin, trả lời câu hỏi hay viết văn bản, các tác nhân AI được kỳ vọng có thể tự hoàn thành nhiều nhiệm vụ trên máy tính.

Khả năng này hứa hẹn giúp tiết kiệm thời gian và giảm bớt những thao tác thủ công. Tuy nhiên, khi AI được phép truy cập dữ liệu và tự đưa ra các bước xử lý công việc, việc xác định phạm vi quyền hạn cũng như phát hiện hành vi bất thường trở nên quan trọng hơn.

Đối với Microsoft, bài toán đặt ra là làm thế nào để người dùng tận dụng được sự tiện lợi của AI mà không phải đánh đổi bằng những rủi ro bảo mật khó kiểm soát.

Song song với việc phát triển các cơ chế bảo vệ, Microsoft cũng đang điều chỉnh cách tích hợp Copilot vào Windows. Sau khi nhận được phản hồi từ người dùng, công ty đã giảm số vị trí xuất hiện của trợ lý AI nhằm hạn chế cảm giác phiền toái.

Những động thái này cho thấy Microsoft đang phải giải quyết đồng thời hai yêu cầu: mở rộng khả năng tự động hóa bằng AI và kiểm soát những nguy cơ có thể phát sinh khi các công cụ này ngày càng được trao nhiều quyền trên máy tính.

Bảo Ngọc (SHTT)