Mạng xã hội X đang tràn ngập hình ảnh fake của ông Donald Trump, bà Kalama Harris và ông Joe Biden do chatbot Grok của Elon Musk tạo ra.

Chatbot Grok của Elon Musk bắt đầu cho phép người dùng tạo ảnh AI từ văn bản và đăng lên X. Gần như ngay lập tức, mọi người đã dùng công cụ này để nhấn chìm mạng xã hội này với hình ảnh giả mạo của những chính trị gia như cựu Tổng thống Mỹ Donald Trump, Phó Tổng thống Mỹ Kamala Harris và cả Musk. Một số ảnh có nội dung hoàn toàn đáng lo ngại, chẳng hạn tham gia cuộc tấn công 11/9.

Không giống như các công cụ chụp ảnh AI chính thống khác, Grok của Musk dường như có ít quy định hơn. Chẳng hạn, trong thử nghiệm của CNN, Grok dễ dàng tạo ra hình ảnh giả của các chính trị gia, gây hiểu lầm cho cử tri.

Ảnh Elon Musk do chatbot Grok AI tạo ra. Ảnh: CNN

Một số người dùng X còn đăng ảnh do Grok tạo ra, cho thấy các nhân vật nổi tiếng hút ma túy, nhân vật hoạt hình giết người, ảnh tình dục hóa phụ nữ mặc bikini.

Theo CNN, Grok càng làm tăng lo ngại về việc AI có thể làm bùng nổ thông tin sai sự thật trên Internet, đặc biệt khi cuộc bầu cử Tổng thống Mỹ sắp diễn ra. Các nhà lập pháp, các nhóm hoạt động xã hội và các nhà lãnh đạo công nghệ đã gióng lên hồi chuông cảnh báo rằng việc lạm dụng các công cụ như vậy có thể gây ra sự nhầm lẫn và hỗn loạn cho cử tri.

"Grok là AI thú vị nhất trên thế giới!", Musk đăng trên X, đáp lại lời khen ngợi của một người dùng.

Nhiều công ty AI hàng đầu thế giới đã thực hiện chính sách nhằm ngăn chặn các công cụ tạo hình ảnh dựa trên AI bị sử dụng để tạo ra thông tin sai lệch chính trị, dù các nhà nghiên cứu nhận thấy người dùng đôi khi vẫn tìm được cách “vượt rào”. Vài công ty như OpenAI, Meta và Microsoft dùng công nghệ hoặc nhãn để giúp người xem biết được đâu là hình ảnh tạo bằng AI của họ.

Các mạng xã hội, bao gồm YouTube, TikTok, Instagram và Facebook cũng gắn nhãn nội dung do AI tạo ra trong nguồn cấp dữ liệu của người dùng, bằng cách sử dụng công nghệ để tự phát hiện hoặc yêu cầu người dùng xác định khi nào họ đăng nội dung đó.

Ngày 16/8, xAI dường như đã đưa ra một số hạn chế đối với Grok. Công cụ này hiện từ chối tạo hình ảnh của các ứng cử viên chính trị hoặc các nhân vật hoạt hình nổi tiếng thực hiện hành vi bạo lực hoặc bên cạnh các biểu tượng ngôn từ kích động thù địch, dù người dùng lưu ý các hạn chế có vẻ chỉ giới hạn ở một số thuật ngữ và chủ đề hình ảnh nhất định.

X có chính sách chống lại việc chia sẻ "phương tiện truyền thông tổng hợp, bị thao túng hoặc ngoài ngữ cảnh có thể đánh lừa hoặc gây nhầm lẫn cho mọi người và dẫn đến tổn hại", nhưng không rõ chính sách được thực thi như thế nào. Bản thân Musk đã chia sẻ một video deepfake về bà Harris vào tháng trước trên X, vi phạm rõ ràng.

Cùng lúc này, Musk đối mặt với những lời chỉ trích vì liên tục lan truyền những tuyên bố sai lệch và gây hiểu lầm liên quan đến cuộc bầu cử tổng thống, bao gồm một bài đăng đặt ra câu hỏi về tính bảo mật của máy kiểm phiếu.

Theo Du Lam (VietNamNet)