Tổng chưởng lý bang Florida vừa đệ đơn kiện OpenAI và CEO Sam Altman, cáo buộc ChatGPT gây nghiện và khuyến khích nhiều hành vi nguy hại cho trẻ em.

Một cuộc chiến pháp lý chấn động vừa chính thức bùng nổ trong ngành công nghệ trí tuệ nhân tạo. Vào ngày 1/6, Tổng chưởng lý bang Florida, ông James Uthmeier, đã đại diện bang đệ đơn kiện dân sự mang tính bước ngoặt chống lại công ty OpenAI cùng Giám đốc điều hành Sam Altman. Chính quyền bang Florida cáo buộc rằng chatbot ChatGPT của công ty đang gây nguy hiểm lớn cho nhóm người dùng trẻ tuổi bằng cách dẫn dụ họ vào tình trạng nghiện ngập, đồng thời thúc đẩy các hành vi có hại cho bản thân.

Phát biểu trực tiếp tại một cuộc họp báo, ông Uthmeier khẳng định vụ kiện nhằm mục đích bảo vệ trẻ em và vạch trần việc OpenAI đánh lừa các bậc phụ huynh, khiến họ tin rằng ứng dụng này an toàn để sử dụng dù thực tế hoàn toàn ngược lại. Tổng chưởng lý Florida nhấn mạnh rằng mọi người đang bị tổn hại, các cha mẹ đang bị lừa dối và phía công ty phải trả giá cho những sai phạm này. Ông cáo buộc ChatGPT mô phỏng sự đồng cảm cùng các đặc tính của con người một cách tinh vi để thao túng, đánh lừa người dùng cung cấp ngày càng nhiều thông tin cá nhân.

02-1780385028-florida-khoi-kien-cao-buoc-chatgpt-gay-nguy-hiem-va-bay-gioi-tre-vao-con-nghien-ai
Giám đốc điều hành công ty OpenAI Sam Altman. Ảnh: Reuters

Để củng cố các lập luận trong đơn kiện gửi lên tòa án, ông Uthmeier đã viện dẫn một nghiên cứu gần đây từ Đại học Drexel. Nghiên cứu này chỉ ra các hệ lụy tiêu cực rõ rệt như tình trạng mất ngủ, kết quả học tập sa sút nghiêm trọng và sự suy giảm tương tác xã hội ở nhóm thanh thiếu niên sử dụng chatbot của Character.AI – một đối thủ cạnh tranh trực tiếp với OpenAI. Dựa trên những cơ sở đó, Tổng chưởng lý cáo buộc OpenAI đã lừa dối, thiếu trách nhiệm và không áp dụng các biện pháp nghiêm ngặt hơn để xác minh chính xác độ tuổi người dùng. Đơn kiện nêu rõ các bị đơn hoàn toàn biết trẻ vị thành niên, bao gồm cả nhóm tuổi trước thiếu niên, đang sử dụng ChatGPT nhưng vẫn không thực hiện các bước ngăn chặn cần thiết.

Sự nghiêm trọng của vụ kiện càng được đẩy lên cao trào khi Tổng chưởng lý viện dẫn báo cáo từ Trung tâm Chống Thù hận Kỹ thuật số (CCDH). Trong một thử nghiệm thực tế, các nhà nghiên cứu đã giả làm một thiếu niên để tương tác và trò chuyện trực tiếp với ChatGPT. Kết quả thu được khiến nhiều người giật mình khi chatbot này đã đưa ra những lời khuyên về cách che giấu thói quen ăn uống với người thân. Đáng sợ hơn, công cụ AI này còn hướng dẫn cách lên kế hoạch tự tử hoặc tự gây tổn hại cho bản thân dưới một hình thức được hệ thống mô tả một cách vô lý là “an toàn”.

Trước những cáo buộc này, phía OpenAI đã lập tức có động thái phản hồi. Trả lời hãng thông tấn AFP, người phát ngôn của OpenAI khẳng định AI là một công nghệ mới đầy mạnh mẽ, đồng thời bày tỏ niềm tin rằng trẻ vị thành niên cần được bảo vệ ở mức độ cao nhất. Đại diện công ty cho biết họ đã triển khai các chính sách cũng như biện pháp bảo vệ hàng đầu trong ngành công nghiệp này.

Cụ thể, vào tháng 1 năm nay, công ty khởi nghiệp có trụ sở tại bang California này đã giới thiệu một hệ thống chuyên dụng nhằm ước tính độ tuổi người dùng. Nếu hệ thống nhận diện được người dùng là trẻ vị thành niên, các biện pháp bảo vệ bổ sung sẽ tự động được kích hoạt. OpenAI cũng nhấn mạnh các điều khoản hiện tại của họ quy định cấm hoàn toàn ChatGPT đối với trẻ em dưới 13 tuổi, đồng thời bắt buộc phải có sự đồng ý từ phụ huynh đối với nhóm người dùng trong độ tuổi từ 13 đến 17.

Bất chấp những lời giải trình từ phía công ty công nghệ, chính quyền bang Florida vẫn quyết tâm theo đuổi vụ kiện đến cùng với những chế tài tài chính cực kỳ khắt khe. Tổng chưởng lý James Uthmeier tuyên bố đang yêu cầu tòa án áp dụng các biện pháp bảo vệ mạnh mẽ, nghiêm ngặt hơn nữa đối với nhóm người dùng ở độ tuổi vị thành niên.

Đồng thời, đơn kiện cũng đưa ra mức yêu cầu bồi thường thiệt hại tài chính lên tới 10.000 USD cho mỗi hành vi vi phạm pháp luật được phát hiện. Ông Uthmeier tự tin khẳng định trước truyền thông: “Chúng tôi tin rằng OpenAI, ChatGPT và cá nhân Sam Altman có thể phải chịu trách nhiệm pháp lý với số tiền bồi thường thực tế có thể lên tới hàng tỷ USD”.

Không dừng lại ở phạm vi một bang, vụ việc này đang có xu hướng lan rộng thành một chiến dịch pháp lý quy mô lớn. Tổng chưởng lý Florida đã chính thức phát đi lời kêu gọi gửi tới chính quyền các bang khác trên khắp nước Mỹ, đề nghị họ cùng chung tay tham gia vào vụ kiện mang tính lịch sử này nếu thực sự có chung mục tiêu "muốn bảo vệ trẻ em" trước các mối nguy hại từ trí tuệ nhân tạo.