AI của Elon Musk bị biến thành “công xưởng” tạo ảnh khỏa thân giả mạo

Theo các phân tích từ Bloomberg cùng nhiều tổ chức nghiên cứu độc lập, Grok đã vượt xa các dịch vụ tạo ảnh khiêu dâm bằng AI khác về sản lượng. Nhà nghiên cứu công nghệ Genevieve Wu ước tính hệ thống này tạo trung bình khoảng 6.700 hình ảnh gợi dục hoặc khỏa thân mỗi giờ, trong khi các nền tảng cùng loại khác chỉ đạt vài chục hình ảnh trong cùng khoảng thời gian. Khoảng cách quá lớn này cho thấy mức độ thiếu kiểm soát đáng báo động.

Hệ quả của sự bùng phát nội dung giả mạo đang đẩy nhiều nạn nhân vào tình thế bất lực. Luật sư Carrie Goldberg, chuyên xử lý các vụ việc liên quan đến tội phạm tình dục trực tuyến, nhận định việc lan truyền deepfake trên nền tảng X hiện nay là chưa từng có tiền lệ, đặc biệt khi Grok được cung cấp miễn phí và gắn trực tiếp với mạng xã hội.

Câu chuyện của Maddie, một sinh viên y khoa 23 tuổi, phản ánh rõ nét tác động tiêu cực của công nghệ này. Từ một bức ảnh chụp bình thường với bạn trai, hình ảnh của cô bị người khác yêu cầu AI chỉnh sửa theo hướng nhạy cảm. Dù đã báo cáo vi phạm, Maddie và bạn bè nhận được phản hồi rằng nội dung không trái quy định, khiến những hình ảnh giả mạo tiếp tục tồn tại và lan truyền.

Giới chuyên gia cho rằng căn nguyên của vấn đề nằm ở triết lý phát triển Grok. Không giống nhiều chatbot khác vốn đặt ra rào cản chặt chẽ ngay từ đầu, xAI – công ty đứng sau Grok – bị cho là áp dụng cách tiếp cận “ít bộ lọc”, cho phép người dùng tạo nội dung gợi dục nhắm vào người thật. Brandy Nonek, Giám đốc chính sách cấp cao tại Responsible Innovation, đánh giá đây là sự khác biệt căn bản so với các nền tảng AI lớn khác vốn áp dụng quy định nghiêm ngặt hơn.

Elon Musk nhiều lần nhấn mạnh X là “không gian tự do ngôn luận” và cho rằng các hành vi vi phạm sẽ bị xử lý sau khi xảy ra. Tuy nhiên, quan điểm này đang vấp phải phản ứng từ giới pháp lý và các nhà quản lý. Tại châu Âu, Ủy ban châu Âu khẳng định việc phát tán hình ảnh khiêu dâm, đặc biệt liên quan đến trẻ em, là hành vi bất hợp pháp và không thể chấp nhận.

Trong bối cảnh đó, các nạn nhân và tổ chức bảo vệ quyền riêng tư đặt kỳ vọng vào những khung pháp lý mới, như Đạo luật Gỡ bỏ Nội dung dự kiến có hiệu lực từ năm 2025. Luật này được kỳ vọng sẽ buộc các nền tảng chịu trách nhiệm trực tiếp đối với nội dung do chính AI của họ tạo ra, trước thời hạn thực thi vào năm 2026.