Anthropic đưa hành vi ngược đãi hoặc tàn nhẫn kéo dài, không có mục đích rõ ràng đối với các mô hình AI vào danh sách bị cấm trong chính sách sử dụng mới. Quy định có hiệu lực từ ngày 12/11, đồng thời cho phép Claude chủ động kết thúc những cuộc trò chuyện có tính chất ngược đãi dai dẳng.

Anthropic cho biết đã chặn 5 trường hợp sử dụng các mô hình AI cho nghiên cứu sinh học có nguy cơ hỗ trợ phát triển vũ khí.