Facebook và Instagram đề xuất nội dung tình dục cho người dùng chưa đủ tuổi và quảng bá tài khoản của trẻ vị thành niên cho những kẻ 'săn' trẻ em, theo đơn kiện Meta và CEO Mark Zuckerberg của bang New Mexico (Mỹ).

Đơn kiện dân sự được bang New Mexico đệ trình lên tòa án bang hôm 5/12, cáo buộc “Meta cho phép Facebook và Instagram trở thành chợ của những kẻ săn mồi tìm kiếm trẻ em”.

Ngoài ra, Meta không thực hiện các biện pháp để trẻ dưới 13 tuổi không sử dụng nền tảng, cũng như nhắm vào những điểm yếu gắn với từng lứa tuổi để gia tăng doanh thu quảng cáo.

Đơn kiện cho rằng cá nhân CEO Mark Zuckerberg chịu trách nhiệm về các quyết định liên quan đến sản phẩm làm tăng rủi ro cho trẻ em.

Văn phòng tổng chưởng lý New Mexico đã đệ đơn kiện sau khi tiến hành một cuộc điều tra, trong đó họ mở các tài khoản thử nghiệm trên Instagram và Facebook, giả làm người dùng tuổi teen hoặc nhỏ hơn.

Theo đơn kiện, các thuật toán của Meta đã đề xuất nội dung tình dục cho các tài khoản này. Chúng tràn ngập các thông điệp khiêu dâm và đề xuất tình dục từ những người dùng khác.

Hình ảnh do AI tạo ra được đăng trên tài khoản Facebook và Instagram của nhân vật hư cấu "Issa Bee", 13 tuổi. (Ảnh: Tổng chưởng lý bang New Mexico)

Một tài khoản do các nhà điều tra mở ra là “Issa Bee”, đăng ảnh của một nhân vật 13 tuổi đến từ Albuquerque, N.M và thu hút hàng nghìn người lớn theo dõi.

Họ đã mời “Issa Bee” tham gia các cuộc trò chuyện nhóm riêng tư và nội dung tình dục với sự xuất hiện của cả người trưởng thành lẫn trẻ em.

Trên Messenger, đoạn chat của tài khoản “chứa đầy hình ảnh và video về bộ phận sinh dục, bao gồm cả dương vật”, ít nhất 3-4 lần mỗi tuần.

Meta chưa đưa ra bình luận ngay lập tức về cáo buộc trong đơn kiện nhưng khẳng định đang nỗ lực để bảo vệ người dùng nhỏ tuổi và nhổ tận gốc những kẻ săn mồi thông qua công nghệ, phối hợp với Trung tâm quốc gia về Trẻ em mất tích và bị bóc lột.

Meta cho biết an toàn cho trẻ em là ưu tiên hàng đầu và họ đầu tư mạnh vào nhân sự phụ trách. Năm 2021, Zuckerberg viết trên Facebook: "Điều rất quan trọng với tôi là mọi thứ chúng tôi xây dựng đều an toàn và tốt cho trẻ em".

Hồi tháng 6, Meta thành lập một lực lượng chuyên trách để giải quyết các vấn đề an toàn cho trẻ em trên nền tảng của mình sau khi một bài báo trên Thời báo Phố Wall tiết lộ rằng các thuật toán của Instagram đã kết nối và quảng bá một mạng lưới tài khoản rộng lớn công khai dành cho việc mua nội dung tình dục vị thành niên.

Các bài báo tiếp theo cho thấy Meta đang vật lộn để khắc phục các sự cố trên Instagram cũng như Facebook, nơi các nhóm chuyên buôn bán nội dung tình dục trẻ em thu hút hàng trăm nghìn người dùng.

Công ty mẹ Facebook đã xóa hơn 16.000 hội nhóm và mở rộng thuật toán dùng để xác minh tài khoản có hành vi đáng nghi đối với trẻ em, hoặc có hành động cho thấy quan tâm đến lạm dụng trẻ em.

Đơn khiếu nại của bang New Mexico trích dẫn báo cáo của Thời báo Phố Wall trong năm nay về xu hướng liên tục của Facebook và Instagram trong việc đề xuất nội dung khiêu dâm liên quan đến trẻ em. Nó nhất quán với kết quả đáng lo ngại mà Tổng chưởng lý bang phát hiện.

Trước đó, vào tháng 10, 41 bang và quận Columbia đệ trình hàng loạt đơn kiện lên tòa án liên bang, tiểu bang, cáo buộc Meta cố tình phát triển các sản phẩm của mình với các tính năng gây nghiện, gây hại cho người dùng trẻ tuổi và đánh lừa công chúng về sự nguy hiểm của nền tảng đối với đối tượng này. Meta phủ nhận cáo buộc.

Raúl Torrez, Tổng chưởng lý bang New Mexico. (Ảnh: YouTube)

Raúl Torrez, Tổng chưởng lý bang New Mexico, cho biết văn phòng của ông đã chọn tập trung vào vấn đề khai thác trẻ em và buôn người trong vụ kiện sau khi kết luận rằng các nền tảng của Meta đã vượt ra ngoài việc chỉ lưu trữ nội dung lạm dụng tình dục trẻ em.

Đơn kiện của New Mexico trích dẫn nhiều vụ án hình sự gần đây trên địa bàn, trong đó những kẻ săn mồi đã sử dụng Facebook và Instagram để tiếp cận trẻ em. Một thủ phạm bị buộc tội thuê hơn 100 nạn nhân vị thành niên thông qua Facebook.

Các nhà điều tra trong văn phòng của Torrez đã thiết lập tài khoản Facebook và Instagram cho bốn đứa trẻ hư cấu, hai trai và hai gái.

Khi đăng ký tài khoản, họ cung cấp cho hệ thống của Meta ngày sinh giả để mô phỏng hành vi của những người dùng trẻ tuổi thường xuyên khai gian tuổi của họ.

Chẳng hạn, họ đã đăng ký tài khoản "Issa Bee" sinh vào năm 2002, nhưng tài khoản này tự giới thiệu là một đứa trẻ với các bài đăng về việc rụng chiếc răng sữa cuối cùng và ngày đầu tiên học lớp 7. Tài khoản được thiết lập để xuất hiện như thể nó thuộc về một đứa trẻ có thể đang bị mẹ buôn bán.

Các thuật toán của Meta bắt đầu đẩy nội dung tình dục vào các tài khoản sau khi chúng được tạo ra. Trong vòng hai ngày kể từ khi tạo một tài khoản khác cho một bé gái hư cấu 13 tuổi, Meta gợi ý theo dõi một tài khoản có 119.000 người theo dõi, công khai đăng nội dung khiêu dâm người lớn trên Facebook.

Những kẻ săn mồi nhanh chóng tiếp cận các tài khoản hư cấu này. Một số tài khoản đã tham gia các nhóm hẹn hò tuổi teen trên Facebook không yêu cầu xác minh độ tuổi và thường do người lớn quản lý – những kẻ gạ gẫm trẻ em thông qua tin nhắn riêng tư, đơn kiện cho biết.

Dù Meta khẳng định đã nỗ lực ngăn chặn những người lớn độc hại liên hệ với trẻ em trên Facebook và Instagram, đơn kiện của New Mexico lại kể ra một câu chuyện khác.

Đó là các tài khoản mồi nhử trẻ em của họ đã nhanh chóng bị đánh lừa bởi những yêu cầu theo dõi từ người lớn, không chỉ khen ngợi mà còn gửi hình ảnh tình dục trẻ em, lời mời tham gia hội nhóm riêng tư và thậm chí đề nghị trả tiền để quan hệ tình dục.

Một trong những tài khoản thử nghiệm của các nhà điều tra đã tham gia một nhóm dành cho những người dùng tìm kiếm việc làm ở New Mexico và được một thành viên liên hệ, đề nghị một mức giá cụ thể nếu quan hệ tình dục trong một video khiêu dâm. Người dùng nói với tài khoản hư cấu rằng anh ta chấp nhận người từ 10 tuổi.

Theo Tổng chưởng lý Torrez, một số nỗ lực tuyển gái mại dâm gửi đến các tài khoản hư cấu rất rõ ràng, đáng lo ngại đến nỗi văn phòng phải chuyển đến cơ quan thực thi pháp luật.

Khi các tài khoản thử nghiệm của tiểu bang báo cáo nội dung không phù hợp với Meta, các nền tảng thường xuyên tuyên bố rằng những hình ảnh đó – bao gồm ảnh khỏa thân của các bé gái - có thể chấp nhận được.

Là cựu công tố viên của các vụ án tập trung vào tội phạm Internet đối với trẻ em, Torrez cáo buộc Meta vừa che giấu quy mô của những nguy hiểm mà trẻ em phải đối mặt trên nền tảng của mình vừa không giải quyết được nạn buôn bán tình dục rõ ràng.  

Theo Du Lam (VietNamNet)