Anthropic đưa hành vi ngược đãi hoặc tàn nhẫn kéo dài, không có mục đích rõ ràng đối với các mô hình AI vào danh sách bị cấm trong chính sách sử dụng mới. Quy định có hiệu lực từ ngày 12/11, đồng thời cho phép Claude chủ động kết thúc những cuộc trò chuyện có tính chất ngược đãi dai dẳng.

Anthropic cho biết đã chặn 5 trường hợp sử dụng các mô hình AI cho nghiên cứu sinh học có nguy cơ hỗ trợ phát triển vũ khí.

Tối ngày 3/9, cộng đồng công nghệ và người dùng trên toàn thế giới đã trải qua một phen nháo nhác khi hàng loạt mô hình trí tuệ nhân tạo (AI) phổ biến nhất hiện nay bất ngờ gặp sự cố gián đoạn truy cập cùng một thời điểm.

Giải pháp mới cho phép nhận diện dấu vết sáng tạo của AI mà hoàn toàn không chèn ký tự ẩn, không làm thay đổi nội dung hay gây ra sự đứt gãy trong quá trình đọc.

Sự xuất hiện của GLM-5.2, mô hình trí tuệ nhân tạo do startup Z.ai phát triển, đang thu hút sự chú ý mạnh mẽ của giới công nghệ khi sở hữu hiệu năng cao nhưng chi phí vận hành thấp.

Một sự cố hy hữu vừa được chia sẻ trên mạng xã hội cho thấy rủi ro tiềm ẩn khi sử dụng công cụ lập trình AI: chỉ một lệnh chạy không kiểm soát đã khiến một nhà phát triển tiêu tốn hàng nghìn USD chỉ sau một đêm.

Một lỗi lập trình tưởng chừng đơn giản đã khiến một nhà phát triển phải nhận "hóa đơn" kỷ lục khi hệ thống AI tự động chạy vòng lặp xuyên đêm mà không có người giám sát.

Trong bối cảnh cuộc cạnh tranh khốc liệt giành ngôi vương trong làng công nghệ AI, Anthropic vừa phải đối mặt với một tình huống đầy trớ trêu khi xác nhận vô tình để rò rỉ một phần mã nguồn nội bộ của Claude Code.

Chỉ vài giờ sau khi Tổng thống Mỹ ban hành lệnh yêu cầu dừng sử dụng công cụ AI của Anthropic, quân đội nước này được cho là vẫn triển khai mô hình Claude để phân tích tình báo và hỗ trợ xác định mục tiêu trong một cuộc tấn công nhằm vào Iran.