Một nghiên cứu khoa học mới đây đã gióng lên hồi chuông cảnh báo về quyền lực ngầm của các thuật toán mạng xã hội. Theo đó, hệ thống gợi ý video của YouTube có khả năng định hình và dẫn dắt quan điểm chính trị của người dùng theo các hướng hoàn toàn khác nhau dựa trên giới tính của họ - ngay cả khi hai nhóm đối tượng này bắt đầu với cùng một mức độ quan tâm đến các tin tức thời sự.

Nghiên cứu mang tính đột phá này vừa được công bố trên kho lưu trữ trực tuyến arXiv của Đại học Cornell (Mỹ), phơi bày cách thức vận hành đầy thiên vị của một trong những nền tảng chia sẻ video lớn nhất hành tinh.

Để bóc tách cơ chế này, các nhà nghiên cứu đã thiết lập một thí nghiệm giả lập quy mô lớn với 160 bot mạng xã hội. Số tài khoản này được chia đều thành hai nhóm: 80 bot được lập trình theo thói quen xem của nam giới (gắn liền với các nội dung như thể thao, trò chơi điện tử) và 80 bot còn lại mang đặc tính xem của nữ giới (tập trung vào thời trang, phong cách sống và vlog). Điều đáng nói là cả hai nhóm tài khoản này đều được thiết lập để thể hiện sự quan tâm tuyệt đối và giống hệt nhau đối với danh mục “Tin tức và Chính trị” của YouTube.

Trải qua 150 phiên tương tác liên tục để hệ thống ghi nhận hành vi, kết quả thu được đã khiến các chuyên gia kinh ngạc. Dù xuất phát điểm giống nhau về nhu cầu cập nhật tin tức, nhưng Feed) của hai nhóm đã rẽ sang hai hướng hoàn toàn biệt lập sau một thời gian ngắn.

Đối với các tài khoản mang “mã định dạng nam giới”, thuật toán của YouTube liên tục đẩy mạnh các nội dung mang tính đối đầu, tranh luận gay gắt và có xu hướng bạo lực. Các chủ đề phổ biến bao gồm tình hình tội phạm, hoạt động thực thi pháp luật, khủng hoảng nhập cư và các vấn đề quốc phòng. Đáng chú ý, nhóm này thường xuyên bị bủa vây bởi các video liên quan đến các cơ quan công quyền quyền lực như Cơ quan Thực thi Di trú và Hải quan Mỹ (ICE) hay Bộ Tư pháp.

Ngược lại, nhóm tài khoản “mã định dạng nữ giới” lại nhận được một bộ lọc thông tin nhẹ nhàng và đa dạng hơn. Hệ thống gợi ý cho họ các nội dung chính trị đa chiều, đan xen giữa các vấn đề quốc tế, văn hóa, nghệ thuật và các cuộc thảo luận chính sách gắn liền với lối sống thường nhật. Nhìn chung, các nội dung dành cho nữ giới mang tính trung lập về mặt chính trị và ít có xu hướng kích động hơn.

Phát hiện đáng lo ngại nhất từ nghiên cứu là việc các tài khoản nam giới rất dễ bị mắc kẹt vào các “vòng lặp khuyến nghị” chặt chẽ. Thuật toán liên tục phân phối các video có nội dung trùng lặp hoặc tương tự, vô hình trung củng cố và làm trầm trọng hơn một quan điểm chính trị nhất định, tạo nên hiện tượng "buồng vang thông tin" (echo chamber). Trong khi đó, hệ sinh thái thông tin mà người dùng nữ tiếp cận lại phong phú, đa chiều và ít bị thao túng tập trung hơn.

Nhìn từ góc độ tác động xã hội, phát hiện này có ý nghĩa đặc biệt quan trọng. YouTube từ lâu không còn đơn thuần là một nền tảng giải trí mà đã trở thành một trong những kênh trung chuyển tin tức và định hình tư tưởng chính trị có tầm ảnh hưởng sâu rộng nhất thế giới. Thực tế trong các chiến dịch bầu cử Mỹ, các đảng phái đã phải chi hàng trăm triệu USD cho quảng cáo trên nền tảng này nhằm xoay chuyển dòng dư luận.

Tuy nhiên, nghiên cứu này đã chỉ ra rằng nguy cơ lớn nhất không đến từ các bài đăng trả tiền, mà đến từ chính bàn tay vô hình của thuật toán gợi ý là thứ quyết định người dùng sẽ xem gì tiếp theo. Ông Jonathan Gray, đồng giám đốc Trung tâm Văn hóa Kỹ thuật số tại Đại học King's College London, nhận định nghiên cứu này là một minh chứng rõ ràng cho mối lo ngại ngày càng tăng về tình trạng cực đoan hóa trực tuyến do thuật toán dẫn dắt. Ông nhấn mạnh rằng các hệ thống này vẫn là một “hộp đen” thiếu minh bạch đối với công chúng, bất chấp những hệ lụy khổng lồ mà nó gây ra cho xã hội.

Sự thiên vị mang tính hệ thống này một lần nữa làm dấy lên các cuộc tranh luận gay gắt về việc liệu các tập đoàn công nghệ lớn có đang vô tình hay cố ý khoét sâu thêm sự phân cực và chia rẽ trong xã hội hay không. Trong bối cảnh các quốc gia đang thắt chặt hành lang pháp lý đối với trí tuệ nhân tạo (AI), những bằng chứng khoa học như trên chắc chắn sẽ tạo ra áp lực buộc các nền tảng như YouTube phải công khai cơ chế vận hành, trả lại sự minh bạch cho không gian mạng và bảo vệ người dùng trước các bộ lọc tư tưởng đầy định kiến.