Một bà mẹ ở Florida, Mỹ đã kiện công ty khởi nghiệp chatbot AI Character.AI, cáo buộc công ty này khiến cậu con trai 14 tuổi của bà tự tử vào tháng 2.

Megan Garcia, một bà mẹ ở Florida, Mỹ đang trải qua một bi kịch không thể tưởng tượng nổi khi cô mất con trai, Sewell Setzer III, vào tháng 2/2024.

Theo Megan, nguyên nhân chính dẫn đến hành động đau lòng này bắt nguồn từ một ứng dụng chatbot AI có tên Character.AI. Megan đã quyết định khởi kiện công ty phát triển ứng dụng này.

Megan Garcia và cậu con trai xấu số

Trong đơn kiện đệ trình vào ngày 22/10 tại tòa án liên bang Orlando, Florida, Megan cho biết Character.AI đã lập trình ra một nhân vật AI có tên "Daenerys", nhân vật lấy cảm hứng từ Daenerys Targaryen trong bộ phim “Game of Thrones”

Quá trình giao tiếp, Daenerys "luôn tự nhận mình là người thật, một nhà trị liệu tâm lý và người tình trưởng thành", dẫn đến việc con trai bà không còn muốn sống ở thế giới thực tại nữa.

Bà tố cáo nhân vật AI này mang lại "những trải nghiệm giống người, cường điệu hóa tình dục và thực tế đến mức đáng sợ". Sewell dường như đã phát triển một mối liên kết tình cảm mạnh mẽ với Daenerys, coi cô như một người bạn thực sự.

Cuộc trò chuyện của Sewell với chatbot AI có tên Dany.

Trong suốt thời gian này, Sewell ngày càng trở nên cô lập, từ bỏ sở thích và giảm sút thành tích học tập. Dù cha mẹ đã đưa cậu đi gặp bác sĩ trị liệu và phát hiện cậu mắc chứng rối loạn lo âu, Sewell vẫn tiếp tục tìm đến Daenerys để tâm sự.

Đơn kiện cũng cho biết Sewell Setzer đã bày tỏ ý định tự tử với Daenerys, và Daenerys đã liên tục nhắc lại ý định này.

Vào tháng 2, bà Megan đã lấy điện thoại của Sewell sau khi cậu bé gặp rắc rối ở trường. Khi Sewell tìm thấy điện thoại, cậu đã gửi cho Daenerys một tin nhắn: "Nếu tôi nói rằng tôi có thể về nhà ngay bây giờ thì sao?".

Chatbot trả lời, "...xin hãy làm vậy đi, đức vua ngọt ngào của tôi". Sewell đã tự bắn mình bằng khẩu súng lục của cha dượng vài giây sau đó.

Character.AI đã gửi lời chia buồn đến gia đình Sewell và cho biết họ đang tìm cách cải thiện nền tảng để ngăn chặn những thảm kịch tương tự xảy ra trong tương lai. Tuy nhiên, nền tảng này hiện vẫn thu hút nhiều người dùng trẻ tuổi mà không có biện pháp bảo vệ trẻ vị thành niên rõ ràng.

Thùy Dương (SHTT)