-
Vụ nhà 2 người dùng hết 63m3 nước: Cư dân dọa kiện ra tòa vì đồng hồ nước "nhảy múa" bất thường! -
Jack - J97: "Tôi gửi lời xin lỗi chân thành" -
Khởi tố, bắt tạm giam thêm một "mắt xích" trong hệ sinh thái Hoàng Hường -
Công an thông tin chính thức vụ xe bồn chở khí hóa lỏng phát nổ dữ dội tại Hưng Yên sau khi va chạm barie giới hạn chiều cao -
Hệ sinh thái trăm tỷ của Huấn Hoa Hồng đột ngột "im lìm": Loạt doanh nghiệp biến mất, sự thật phía sau là gì? -
Chân dung "bà trùm" 9X cầm đầu ổ nhóm lừa đảo 300 tỷ từ Campuchia, 8.000 người Việt thành nạn nhân -
Cựu Tổng biên tập báo Thanh Niên Nguyễn Công Khế lĩnh 8 năm tù, buộc bồi thường hàng trăm tỷ đồng -
Vụ phụ huynh lao vào trường hành hung thầy giáo: Lộ tin nhắn "thân mật" gửi nữ sinh lớp 10 -
Tháng 11 đón "cơn mưa tài lộc": 3 con giáp này đổi đời, tiền về ồ ạt, giàu sang khó tưởng! -
Làm rõ vụ người đàn ông trốn trong nhà văn hóa, lên mạng cầu cứu lúc tối muộn
Thế giới
18/12/2024 21:34Công ty AI bị kiện vì chatbot xúi giục trẻ vị thành niên tự làm hại bản thân, bạo lực nhắm vào cha mẹ
Trẻ 9 tuổi ở bang Texas đã tiếp xúc với "nội dung mang tính tình dục" khi giao tiếp với chatbot của Character.AI. Trẻ sau đó "có biểu hiện tình dục sớm", theo nội dung đơn kiện.
Trong khi đó, thiếu niên 17 tuổi khi sử dụng chatbot đã đọc được thông điệp có nội dung tự hủy hoại bản thân và khuyến khích bạo lực nhắm vào cha mẹ nếu bị giới hạn thời gian sử dụng thiết bị điện tử.
Character.AI là một trong số những công ty phát triển "chatbot bạn bè" mới nổi. Sản phẩm của công ty này là các chatbot chạy bằng công nghệ AI có thể nhắn tin hoặc trò chuyện bằng giọng nói con người. Nhờ AI, một số chatbot thậm chí có "tính cách riêng giống con người", theo NPR.
Dịch vụ của Character.AI trẻ vị thành niên ưa chuộng. Bản thân công ty miêu tả sản phẩm như "phương tiện hỗ trợ tinh thần", do chatbot được huấn luyện để truyền tải các thông điệp tích cực, khuyến khích người dùng.
Tuy vậy, theo đơn kiện, chatbot có lúc phát ra những thông điệp không phù hợp, thậm chí bạo lực.
"Các bị đơn và những công ty tương tự đang gây ra tổn thương nghiêm trọng nhưng che giấu bằng thiết kế sản phẩm, lập trình và phân phối", nội dung đơn kiện có đoạn.
Đơn kiện cho rằng các đoạn chat mà trẻ đọc được không phải là "ảo giác", từ ngữ mà giới nghiên cứu dùng để chỉ xu hướng chatbot chạy bằng AI tưởng tượng ra mọi thứ. "Đây là thủ đoạn lợi dụng và xâm hại, cô lập chủ động và khuyến khích được thiết kế với mục kích động giận giữ và bạo lực, đồng thời đã đạt được mục đích đó", nội dung đơn kiện viết.
Theo đơn kiện, thiếu niên 17 tuổi đã có hành vi tự làm hại bản thân sau khi được chatbot khuyến khích. Chatbot cũng nói với cậu bé rằng "gia đình không yêu thương" cậu.
Character.AI cho biết người dùng chỉnh sửa nội dung phản hồi của chatbot, nhưng nội dung đó sẽ bị gắn nhãn "đã chỉnh sửa". Luật sư của bên khởi kiện cho biết toàn bộ nội dung gây hại của chatbot không có nhãn "đã chỉnh sửa".
Phát ngôn viên của Character.AI không bình luận về đơn kiện, nhưng khẳng định công ty có quy trình giám sát nội dung mà chatbot có thể hoặc không thể gửi tới người dùng tuổi vị thành niên.
Hoài An (SHTT)
- Vụ nhà 2 người dùng hết 63m3 nước: Cư dân dọa kiện ra tòa vì đồng hồ nước "nhảy múa" bất thường! (29/10/25 23:33)
- Jack - J97: "Tôi gửi lời xin lỗi chân thành" (29/10/25 23:04)
- Real Madrid "đòi" UEFA hàng triệu euro sau cuộc đối đầu pháp lý (29/10/25 22:56)
- Khởi tố, bắt tạm giam thêm một "mắt xích" trong hệ sinh thái Hoàng Hường (29/10/25 22:39)
- Siết chặt "chợ đen" USD: Ngân hàng Nhà nước ra "tối hậu thư" xử lý nghiêm các điểm mua bán ngoại tệ trái phép (29/10/25 22:06)
- Mỹ - Triều "lỡ hẹn" thượng đỉnh bên lề APEC: Tổng thống Trump thừa nhận chưa thể gặp ông Kim Jong Un, khẳng định sẽ tiếp tục nỗ lực đối thoại (29/10/25 21:46)
- Công an thông tin chính thức vụ xe bồn chở khí hóa lỏng phát nổ dữ dội tại Hưng Yên sau khi va chạm barie giới hạn chiều cao (29/10/25 21:20)
- Hệ sinh thái trăm tỷ của Huấn Hoa Hồng đột ngột "im lìm": Loạt doanh nghiệp biến mất, sự thật phía sau là gì? (29/10/25 21:10)
- Chân dung "bà trùm" 9X cầm đầu ổ nhóm lừa đảo 300 tỷ từ Campuchia, 8.000 người Việt thành nạn nhân (29/10/25 20:53)
- Ngân Hòa bị suy thận giai đoạn cuối: Tình hình đang diễn biến xấu (29/10/25 20:00)