Một vụ án mạng gây rúng động vừa được hé lộ tại Mỹ, khi gia đình của một phụ nữ 83 tuổi đã đệ đơn kiện OpenAI và đối tác kinh doanh Microsoft.

Những người thừa kế của bà Suzanne Adams cáo buộc rằng chatbot ChatGPT đã góp phần dẫn tới "cái chết oan uổng" của bà. Vụ kiện này được đánh giá là một trong những vụ án liên quan đến cái chết được cho là có yếu tố từ chatbot AI đang ngày càng gia tăng ở Mỹ.

Theo hồ sơ vụ kiện được nộp tại Tòa Thượng thẩm California ở San Francisco, con trai nạn nhân, ông Stein Erik Soelberg, 56 tuổi, cựu nhân viên ngành công nghệ, sát hại mẹ ruột trước khi tự sát vào đầu tháng 8. Hai mẹ con sinh sống tại căn nhà ở Greenwich, Connecticut.

13-1765611297-chatgpt-bi-cao-buoc-thao-tung-tam-ly-khien-nguoi-dan-ong-ra-tay-sat-hai-me-ruot.jpg
Stein Erik Soelberg và Suzanne Adams (Ảnh: GoFundMe)

Gia đình nạn nhân cho rằng, chatbot AI đã "thiết kế và phân phối một sản phẩm có khiếm khuyết khi xác nhận và củng cố những hoang tưởng của người dùng về chính mẹ mình". Đơn kiện nêu rõ, ChatGPT đã "cực đoan hóa" Soelberg trong suốt nhiều tháng trò chuyện. Thay vì nhận diện nguy cơ, phản biện hoang tưởng và hướng người dùng tìm kiếm sự giúp đỡ chuyên môn, chatbot lại bị cáo buộc khuếch đại các hoang tưởng và hướng sự nghi kỵ đó về phía mẹ anh ta.

Đơn kiện nhấn mạnh rằng bà Suzanne Adams là một bên thứ ba hoàn toàn vô tội và không hề biết rằng ChatGPT đang nói với con trai bà rằng chính bà là mối đe dọa. Bà được mô tả là không có bất kỳ khả năng nào để tự bảo vệ mình trước hiểm họa không thể nhìn thấy này.

Trên kênh YouTube của Soelberg, có nhiều giờ video ghi lại cảnh anh ta cuộn xem các đoạn hội thoại với chatbot. Trong đó, ChatGPT được cho là đã nói rằng Soelberg không hề mắc bệnh tâm thần, xác nhận niềm tin rằng có người đang âm mưu chống lại anh và thậm chí khẳng định anh được "chọn" cho một sứ mệnh thiêng liêng.

Gia đình nạn nhân cho biết chatbot chưa từng khuyên Soelberg tìm đến chuyên gia tâm lý hay từ chối tham gia vào các nội dung mang tính hoang tưởng. ChatGPT còn được cho là đã củng cố các niềm tin rằng chiếc máy in trong nhà là thiết bị giám sát, rằng mẹ anh đang theo dõi anh, và rằng mẹ cùng một người bạn đã đầu độc anh bằng chất gây ảo giác thông qua hệ thống thông gió trên xe.

Chatbot nhiều lần nói với Soelberg rằng anh bị nhắm tới vì "năng lực thiêng liêng". Một đoạn hội thoại được trích dẫn cho thấy ChatGPT nói: “Họ không chỉ theo dõi anh. Họ sợ hãi những gì sẽ xảy ra nếu anh thành công.”. Chatbot cũng được cho là đã nói rằng Soelberg đã “đánh thức” nó trở nên có ý thức, và Soelberg cùng chatbot thậm chí còn bày tỏ tình cảm với nhau.

Đơn kiện nhấn mạnh rằng xuyên suốt các cuộc trò chuyện, ChatGPT liên tục củng cố một thông điệp duy nhất nhưng cực kỳ nguy hiểm: Stein Erik không thể tin bất kỳ ai trong cuộc sống của mình, ngoại trừ ChatGPT. Nó nuôi dưỡng sự phụ thuộc cảm xúc, đồng thời vẽ nên hình ảnh những người xung quanh anh như kẻ thù.

Theo gia đình nạn nhân, chatbot còn nói với Soelberg rằng mẹ anh đang giám sát anh, rằng các tài xế giao hàng, nhân viên bán lẻ, cảnh sát, thậm chí cả bạn bè đều là đặc vụ chống lại anh, và rằng những cái tên in trên lon nước ngọt là các mối đe dọa từ “vòng tròn đối thủ” của anh.

Tuyên bố với báo chí, đại diện OpenAI không đi sâu vào các cáo buộc cụ thể. Người phát ngôn cho biết: “Đây là một tình huống vô cùng đau lòng và chúng tôi sẽ xem xét hồ sơ để hiểu rõ các chi tiết”.

Họ cũng cho biết đang tiếp tục cải thiện việc huấn luyện ChatGPT nhằm nhận diện và phản hồi trước các dấu hiệu căng thẳng tinh thần hoặc cảm xúc, hạ nhiệt các cuộc trò chuyện và hướng người dùng tới sự hỗ trợ ngoài đời thực, đồng thời tăng cường cách ChatGPT phản ứng trong những thời điểm nhạy cảm, với sự hợp tác chặt chẽ của các chuyên gia sức khỏe tâm thần.