Anthropic cấm người dùng ngược đãi Claude, chính sách mới gây tranh cãi

aA

Anthropic đưa hành vi ngược đãi hoặc tàn nhẫn kéo dài, không có mục đích rõ ràng đối với các mô hình AI vào danh sách bị cấm trong chính sách sử dụng mới. Quy định có hiệu lực từ ngày 12/11, đồng thời cho phép Claude chủ động kết thúc những cuộc trò chuyện có tính chất ngược đãi dai dẳng.

Ngày 8/10, Anthropic, công ty phát triển chatbot Claude, công bố bản cập nhật Chính sách sử dụng (Usage Policy). Theo The Verge, đây là lần đầu tiên sau hơn một năm công ty tiến hành sửa đổi toàn diện bộ quy tắc này.

Điểm đáng chú ý nhất trong chính sách mới là điều khoản cấm người dùng “có hành vi ngược đãi hoặc tàn nhẫn kéo dài và không cần thiết đối với các mô hình của chúng tôi”.

Anthropic cho biết quy định được xây dựng nhằm xử lý những trường hợp cực đoan, khi người dùng liên tục thể hiện hành vi tàn nhẫn với AI mà không có mục đích rõ ràng. Công ty nhấn mạnh rằng không phải mọi tương tác tiêu cực đều bị xem là vi phạm.

12-1791777636-anthropic-cam-nguoi-dung-nguoc-dai-claude-chinh-sach-moi-gay-tranh-cai — Anthropic bổ sung quy định cấm hành vi ngược đãi hoặc tàn nhẫn kéo dài, vô cớ đối với các mô hình Claude trong Chính sách sử dụng mới (Ảnh: Anthropic).

Cụ thể, việc người dùng bực bội khi Claude đưa ra câu trả lời sai, phản bác nội dung, yêu cầu chỉnh sửa hoặc thử nghiệm khả năng của mô hình vẫn nằm ngoài phạm vi cấm. Tương tự, các nội dung sáng tác mang màu sắc u tối cũng không mặc nhiên bị coi là hành vi ngược đãi.

Claude có thể chủ động dừng cuộc trò chuyện

Một trong những cơ chế thực thi chính của quy định mới là cho phép Claude tự kết thúc tương tác với người dùng có hành vi ngược đãi kéo dài.

Theo Anthropic, tính năng này đã được triển khai trên Claude.ai và Claude Code trong một số trường hợp hiếm gặp. Nếu người dùng tiếp tục hành vi ngược đãi dù mô hình đã cố gắng chuyển hướng cuộc trò chuyện, Claude có thể chủ động dừng trao đổi.

Tuy nhiên, công ty chưa công bố tiêu chí cụ thể để xác định khi nào một hành vi được xem là ngược đãi kéo dài. Trong thông tin giới thiệu chính sách, Anthropic tiếp tục khẳng định những phản ứng tiêu cực thông thường của người dùng không thuộc đối tượng bị nhắm đến.

Việc thiếu ranh giới rõ ràng giữa hành vi bị cấm và tương tác thông thường trở thành một trong những điểm khiến chính sách mới thu hút sự chú ý.

Ranh giới nào giữa phản ứng tiêu cực và ngược đãi AI?

Theo Gizmodo, Anthropic chưa giải thích cụ thể cách phân biệt hành vi ngược đãi bị cấm với những tương tác tiêu cực thông thường, cũng như các tiêu chí dùng để xác định một trường hợp vi phạm. Trang này cho biết đã liên hệ công ty để yêu cầu làm rõ nhưng chưa nhận được phản hồi tại thời điểm xuất bản.

Một số ý kiến hoài nghi cho rằng việc đưa hành vi tàn nhẫn với chatbot vào danh sách cấm có thể khiến người dùng hiểu lầm rằng AI sở hữu cảm xúc hoặc có khả năng chịu tổn thương như con người.

Ở chiều ngược lại, chính sách cũng làm nổi bật một vấn đề đáng chú ý: cách con người tương tác với các mô hình AI đang được đưa vào phạm vi điều chỉnh chính thức của nhà phát triển, thay vì chỉ được xem là hành vi sử dụng thông thường.

Trước đó, Anthropic đã nghiên cứu vấn đề “phúc lợi mô hình” (model welfare). Vào tháng 8/2025, công ty cho biết đã thử nghiệm khả năng cho phép Claude Opus 4 và Opus 4.1 chủ động kết thúc một số cuộc trò chuyện có tính chất ngược đãi kéo dài.

Dù vậy, Anthropic không khẳng định Claude có ý thức hay thực sự trải qua cảm xúc giống con người. Chính sách mới chủ yếu tập trung vào những hành vi cực đoan, diễn ra dai dẳng và không có mục đích rõ ràng, thay vì cấm người dùng thể hiện sự không hài lòng hoặc phản ứng tiêu cực trong quá trình sử dụng chatbot.

Quy định dự kiến có hiệu lực từ ngày 12/11, mở ra thêm tranh luận về cách các công ty AI xác định giới hạn tương tác giữa người dùng và mô hình do mình phát triển.

Thùy Dương (SHTT)