Twitter chi tiền cho hacker tìm sự thiên vị trong thuật toán cắt ảnh

aA

Twitter đang tổ chức một cuộc thi với hi vọng các nhà nghiên cứu và hacker có thể tìm ra khuynh hướng thiên vị người da trắng trong thuật toán cắt ảnh của mình và tập đoàn này sẵn sàng chi tiền mặt cho người thắng giải.

Twitter hy vọng với việc cho phép các đội truy cập vào code và hệ thống cắt ảnh của mình, họ có thể tìm ra vấn đề trong thuật toán (ví dụ như ảnh cắt có khuynh hướng thiên vị màu da hoặc xóa mất chủ thể trong ảnh).

Twitter chi tiền cho hacker tìm sự thiên vị trong thuật toán cắt ảnh

Những người tham gia sẽ phải nộp lại một bản báo cáo về những gì họ tìm được và một chuỗi dữ liệu có thể chạy qua thuật toán nhằm chứng minh vấn đề.

Twitter sau đó sẽ cho điểm dựa vào thông tin người tham gia tìm được, mức độ ảnh hưởng của nó và nhiều tiêu chí khác.

Đội thắng cuộc sẽ được thưởng 3.500 USD, đồng thời sẽ có 1.000 USD phần thưởng riêng cho phát hiện đột phá và mang tính tổng quát nhất.

Giá trị phần thưởng đã tạo nên một làn sóng trên Twitter, với một vài người dùng muốn phần thưởng nên có thêm một con số 0. Để dễ hiểu hơn, với các chương trình tìm lỗi thông thường Twitter sẽ trả 2.940 USD cho người tìm ra lỗi khiến người dùng có thể thực hiện hành động trên các tài khoản khác (như retweet hoặc đăng ảnh). Tìm ra một lỗi OAuth khiến người dùng có thể cướp tài khoản khác sẽ được trả 7.000 USD.

Twitter cũng đã tự nghiên cứu thuật toán cắt ảnh của mình trước đây - vào tháng 5, và có đăng tải một báo cáo về việc thuật toán có thể thiên vị, sau các cáo buộc phần xem trước ảnh được cắt có tính phân biệt chủng tộc.

Twitter từ đó đã gần như loại bỏ thuật toán xem trước ảnh, ngoại trừ cho phiên bản desktop. Với một tập đoàn như Twitter, việc có một thuật toán cắt ảnh tốt là điều cần thiết.

Mở ra một cuộc thi giúp cho Twitter nhận được phản hồi từ nhiều góc nhìn khác nhau. Ví dụ, đội ngũ của Twitter đã mở một cuộc thảo luận về cuộc thi, trong đó một người trong đội đã nhắc tới việc được hỏi về sự thiên vị với hệ thống phân biệt tầng lớp caste của Ấn Độ trong thuật toán, điều mà các lập trình viên ở California có thể đã bỏ qua.

Twitter cũng không chỉ xem xét sự thiên vị trong thuật toán ở khía cạnh khách quan. Phiếu đánh giá cho thấy vấn đề gây hại có thể đến từ cả yếu tố khách quan và chủ quan. Twitter chỉ ra một lỗi khách quan có thể do người dùng cắt một bức ảnh bình thường với "chủ ý tốt", trong khi lỗi chủ quan có thể được gây ra bởi một người dùng có ý định khai thác thuật toán nhằm đăng tải những bức ảnh mờ ám.

Twitter nói cuộc thi này sẽ được tách biệt khỏi các chương trình tìm lỗi thông thường trong bài blog thông báo của mình - nếu bạn đăng tải một báo cáo về lỗi thiên vị trong thuật toán bên ngoài cuộc thi, tập đoàn này nói sẽ đóng báo cáo của bạn và đánh dấu không đủ tiêu chí tham gia.

Nếu muốn tham gia cuộc thi, bạn có thể truy cập vào trang HackerOne của cuộc thi để tham khảo luật, tiêu chí đánh giá và nhiều thông tin khác.

Theo Tuấn Vũ (VietNamNet)