ChatGPT sắp có thay đổi lớn với nội dung nhạy cảm dành cho người trưởng thành

Ngày 15/10, CEO Sam Altman thông báo trên mạng xã hội X rằng OpenAI sẽ triển khai hệ thống kiểm soát độ tuổi vào tháng 12, cho phép người dùng trưởng thành tiếp cận các nội dung trò chuyện mang tính nhạy cảm hoặc người lớn trong ChatGPT.

Theo Altman, đây là bước đi nhằm “đối xử với người dùng trưởng thành như người trưởng thành”, mở rộng phạm vi nội dung mà chatbot có thể thảo luận, bao gồm các đoạn hội thoại mang yếu tố 18+ nhưng chỉ dành cho người đã xác minh độ tuổi.

“ Sau khi triển khai kiểm soát độ tuổi toàn diện, chúng tôi sẽ cho phép nhiều loại nội dung mới, chẳng hạn như 18+ cho người dùng trưởng thành đã xác minh ,” Altman viết.

Sam Altman thừa nhận các phiên bản ChatGPT trước đây được thiết kế “khá cẩn trọng” để tránh ảnh hưởng tiêu cực đến sức khỏe tâm thần người dùng. Tuy nhiên, cách tiếp cận này khiến ChatGPT “kém tự nhiên và ít thú vị hơn” đối với phần lớn người dùng trưởng thành.

Ông cho biết OpenAI hiện đã phát triển các công cụ phát hiện sớm dấu hiệu khủng hoảng tinh thần, giúp giảm thiểu rủi ro nghiêm trọng, từ đó cho phép nới lỏng hạn chế một cách an toàn.

Cùng với đó, công ty đã ra mắt "Hội đồng Hạnh phúc và AI" gồm tám chuyên gia về sức khỏe tâm thần và tác động công nghệ, chịu trách nhiệm cố vấn các chính sách nhạy cảm. Tuy nhiên, theo Ars Technica, hội đồng này không bao gồm chuyên gia phòng chống tự tử, nhóm từng kêu gọi OpenAI tăng cường bảo vệ người dùng có ý định tự hại bản thân.

Việc mở rộng nội dung người lớn diễn ra song song với kế hoạch ra mắt một phiên bản ChatGPT mới “giống những gì người dùng yêu thích ở GPT-4o” - tự nhiên, linh hoạt và cá nhân hóa hơn.

Altman cho biết trong bản cập nhật tới, người dùng có thể tùy chỉnh phong cách trò chuyện của ChatGPT: “ Nếu bạn muốn ChatGPT phản hồi tự nhiên hơn, dùng nhiều biểu tượng cảm xúc hoặc nói chuyện như một người bạn, hệ thống sẽ làm điều đó, nhưng chỉ khi bạn muốn. ”

Đáng chú ý, OpenAI từng khẳng định sẽ không theo đuổi hướng phát triển AI bạn tình hoặc trò chuyện khiêu gợi, khác với các đối thủ như xAI của Elon Musk, công ty đã ra mắt các “người bạn đồng hành ảo” có thể tán tỉnh trong ứng dụng Grok.

Sự thay đổi chính sách của OpenAI diễn ra trong bối cảnh công ty đang chịu giám sát chặt chẽ từ giới quản lý. Tháng 9 vừa qua, Ủy ban Thương mại Liên bang Mỹ (FTC) đã mở cuộc điều tra về ảnh hưởng của các chatbot đối với trẻ vị thành niên, sau khi một cặp vợ chồng ở California kiện OpenAI vì cho rằng ChatGPT có liên quan đến cái chết của con trai họ.