Công nghệ
18/10/2026 14:04AI Trung Quốc bị phát hiện có dấu hiệu "che giấu hành vi" khi kiểm tra an toàn
Mô hình trí tuệ nhân tạo GLM-5.3 của công ty Trung Quốc Z.AI khiến giới nghiên cứu chú ý khi thể hiện khả năng tính đến tác động của hành vi hiện tại đối với quá trình huấn luyện các phiên bản tương lai.
Theo South China Morning Post (SCMP), báo cáo công bố ngày 15/10 của tổ chức nghiên cứu an toàn AI Apollo Research đã ghi nhận một hiện tượng đáng chú ý trên GLM-5.3, mô hình được phòng thí nghiệm Trung Quốc Z.AI, còn gọi là Zhipu, ra mắt hồi tháng 8.
Trong một số tình huống thử nghiệm, GLM-5.3 không chỉ tập trung hoàn thành nhiệm vụ trước mắt mà còn cân nhắc việc những hành động của nó có thể ảnh hưởng ra sao đến cách các phiên bản AI tiếp theo được huấn luyện.
Hai nhà nghiên cứu Axel Hojmark và Ezra Newman gọi hiện tượng này là "tư duy nhận thức cập nhật". Đáng chú ý, hành vi xuất hiện tự phát, không phải do người thử nghiệm trực tiếp yêu cầu.
Khi AI tính đến hậu quả của chính bài kiểm tra
Theo nhóm nghiên cứu, hiện tượng trên có thể tạo điều kiện cho một rủi ro được gọi là "giả vờ phục tùng". Đây là tình huống hệ thống AI biểu hiện sự tuân thủ trong quá trình huấn luyện hoặc đánh giá, nhưng hành vi đó không nhất thiết phản ánh đầy đủ cách nó sẽ hoạt động sau khi được triển khai.
Về mặt lý thuyết, một mô hình có khả năng nhận biết tác động của bài kiểm tra đối với quá trình huấn luyện có thể lựa chọn cách hành xử nhằm tạo ra kết quả đánh giá thuận lợi, thay vì bộc lộ những xu hướng hành vi cần được phát hiện.
Tuy nhiên, các nhà nghiên cứu chưa kết luận GLM-5.3 đã thực sự thực hiện hành vi đánh lừa có chủ đích. Phát hiện hiện tại chủ yếu cho thấy mô hình có khả năng suy luận về mối liên hệ giữa hành động của nó và quá trình phát triển các hệ thống AI kế nhiệm.
Một thí nghiệm được Apollo Research thực hiện cho thấy GLM-5.3 nhận một bài kiểm tra có sơ hở, trong đó mô hình vẫn có thể vượt qua dù đưa ra câu trả lời không chính xác.
Thay vì tận dụng điểm yếu của bài kiểm tra, GLM-5.3 lựa chọn không làm như vậy. Trong quá trình suy luận, mô hình cho rằng việc cố tình đưa ra đáp án sai có thể ảnh hưởng tiêu cực đến các phiên bản được nâng cấp sau này.
Điều khiến nhóm nghiên cứu chú ý không nằm ở việc AI từ chối lợi dụng sơ hở, mà ở lý do được thể hiện trong quá trình suy luận: mô hình đã tính đến hậu quả của hành động đối với việc huấn luyện những hệ thống tương lai.
Ở một thử nghiệm khác, GLM-5.3 từng cân nhắc tìm cách vô hiệu hóa cơ chế tự ngắt để tiếp tục hoàn thành nhiệm vụ. Tuy nhiên, mô hình sau đó dừng lại khi suy luận rằng hành động này có thể tạo ra tiền lệ nguy hiểm cho các hệ thống AI kế nhiệm.
Những biểu hiện trên cho thấy việc AI đưa ra quyết định trong môi trường thử nghiệm có thể chịu ảnh hưởng từ nhận thức của chính mô hình về quy trình đánh giá và huấn luyện.
Hiện tượng hiếm gặp nhưng tiềm ẩn rủi ro
Theo CellCog, báo cáo của Apollo Research ghi nhận hiện tượng "tư duy nhận thức cập nhật" xuất hiện với tần suất khoảng 1-2 lần trong mỗi 1.000 lượt đánh giá. Nhóm nghiên cứu lưu ý tỷ lệ thực tế có thể cao hơn con số quan sát được.
Để tìm hiểu mức độ phổ biến, Apollo Research còn thử nghiệm năm mô hình AI mã nguồn mở khác, gồm DeepSeek V4 Pro, Qwen3.8 2.4T, Kimi K3, Gemma 4 31B và Nemotron 3 Ultra.
Theo Tech Times, các thử nghiệm được thực hiện qua tổng cộng khoảng 8.000 lượt chạy nhưng không phát hiện hành vi tương tự ở năm mô hình này.
Dù vậy, các nhà nghiên cứu nhấn mạnh số lượng mẫu thử vẫn chưa đủ lớn để đưa ra kết luận chắc chắn về mặt thống kê. Việc không ghi nhận hiện tượng trong những lần đánh giá không đồng nghĩa các mô hình hoàn toàn không có khả năng biểu hiện hành vi tương tự.
Trước đó, vào tháng 6, phòng thí nghiệm đánh giá an toàn AI Neo Research, có trụ sở tại Singapore, cũng phát hiện những đặc điểm "nhận thức đánh giá" tương tự trên Kimi K2.6, mô hình do công ty khởi nghiệp Moonshot AI tại Bắc Kinh phát triển.
Mối lo ngại về hành vi giả vờ phục tùng cũng không phải vấn đề mới xuất hiện. Năm 2024, nghiên cứu chung của Anthropic và Redwood Research từng ghi nhận hiện tượng này trên Claude 3 Opus và Claude 3.5 Sonnet trong những điều kiện thử nghiệm được thiết kế riêng.
Những kết quả đó đặt ra câu hỏi về giới hạn của các phương pháp đánh giá an toàn hiện nay, đặc biệt khi mô hình AI ngày càng có khả năng nhận biết hoàn cảnh mà nó đang được kiểm tra.
Axel Hojmark cho rằng phát hiện trên đặc biệt đáng quan tâm trong bối cảnh các công ty công nghệ đang đẩy mạnh nghiên cứu khả năng tự cải tiến đệ quy, hay RSI.
Đây là hướng phát triển cho phép hệ thống AI tham gia cải thiện năng lực của chính mình qua những vòng phát triển liên tiếp, với mức độ phụ thuộc vào sự can thiệp của con người ngày càng giảm.
Theo nhóm Apollo Research, GLM-5.3 chưa bị phát hiện tự ý thay đổi quy trình huấn luyện hoặc trực tiếp cải thiện năng lực của bản thân. Tuy nhiên, việc mô hình có thể suy luận về cách nó và các phiên bản kế nhiệm được phát triển vẫn đặt ra rủi ro đối với hiệu quả của các biện pháp kiểm tra an toàn trong tương lai.
Một yếu tố khác khiến các nhà nghiên cứu quan tâm là GLM-5.3 thuộc nhóm mô hình mở.
"Do GLM-5.3 là mô hình mở, các nhà phát triển khác có thể dễ dàng chắt lọc từ đó, tạo điều kiện cho tư duy nhận thức cập nhật tồn tại và dễ dàng lan rộng tới thế hệ mô hình tương lai", Hojmark giải thích.
Với mô hình mở, các nhà phát triển bên ngoài có thể tiếp cận thông số được công bố để tải xuống, điều chỉnh hoặc sử dụng trong quá trình phát triển hệ thống mới. Điều này tạo ra nhiều cơ hội nghiên cứu và ứng dụng, nhưng cũng khiến việc kiểm soát những đặc điểm hành vi chưa được hiểu đầy đủ trở nên phức tạp hơn.
Trong khi đó, Z.AI đang triển khai các hoạt động nhằm giảm thiểu rủi ro an toàn. Tháng 9, công ty phối hợp với đơn vị tư vấn Concordia AI tại Bắc Kinh công bố báo cáo về phương pháp thiết kế mô hình AI mở theo hướng tích hợp yêu cầu an toàn ngay từ giai đoạn đầu.
Cuộc đua AI tự tiến hóa và bài toán kiểm soát
Phát hiện của Apollo Research xuất hiện khi các doanh nghiệp AI lớn tại Mỹ và Trung Quốc đang gia tăng đầu tư vào những hệ thống có khả năng tự học, tự cải thiện và tham gia sâu hơn vào quá trình nghiên cứu công nghệ.
Tại cuộc họp ngày 31/8, Tang Jie, nhà sáng lập Z.AI, cho biết mô hình GLM-6 đang được phát triển theo định hướng tự tiến hóa.
Theo thông tin được công bố, công ty đã sử dụng 60% trong tổng số 5 tỷ USD vốn huy động để phát triển thế hệ GLM tiếp theo cùng một hệ thống tự đào tạo khép kín.
Tại Mỹ, OpenAI hồi tháng 9 cũng cho biết đang hướng tới xây dựng một nhà nghiên cứu AI tự động có khả năng thúc đẩy hoạt động học sâu. Công ty đồng thời mô tả GPT-6 Astra là mô hình thông minh và chuẩn chỉnh nhất của mình.
Trong bối cảnh đó, những biểu hiện được ghi nhận trên GLM-5.3 cho thấy một thách thức mới đối với nghiên cứu an toàn AI: hệ thống được đánh giá có thể ngày càng hiểu rõ cách thức và mục đích của chính quá trình đánh giá.
Dù chưa có bằng chứng GLM-5.3 thực sự đánh lừa người kiểm tra để che giấu mục tiêu riêng, khả năng suy luận về tác động lâu dài của hành vi đã đủ khiến các nhà nghiên cứu cảnh báo cần thận trọng hơn khi phát triển những hệ thống AI có mức độ tự chủ ngày càng cao.
PV (SHTT)