AI nhận diện sai khiến một phụ nữ mang thai bị bắt oan, cả đơn vị cảnh sát bị đâm đơn kiện

Trong những năm gần đây, trí tuệ nhân tạo (AI) đang được tìm hiểu, khai thác và đưa vào nhiều lĩnh vực để phục vụ con người. Tuy vậy, AI vẫn là một chủ đề gây tranh cãi, nhất là khi bắt đầu được áp dụng vào những lĩnh vực mà yếu tố con người mang tính quyết định, ví dụ như truyền thông, báo chí hay sáng tạo nội dung, nghệ thuật... Nhưng mọi chuyện sẽ càng đáng quan tâm hơn, khi AI được áp dụng vào hệ thống luật pháp.

Mới đây, một phụ nữ đang mang thai ở Mỹ đã bị cảnh sát bắt giữ khi AI nhận diện cô có liên quan đến một vụ cướp tài sản. "Các anh đùa à, cướp xe? Các anh có thấy tôi đang mang thai 8 tháng không?", Porcha Woodruff đã vô cùng bức xúc khi bị cảnh sát gõ cửa. Nhưng dù thế nào, người phụ nữ da màu sống tại Detroit, Michigan vẫn bị bắt giữ và hỏi cung đến 11 tiếng.

Ngay sau khi được thả, Porcha Woodruff đã phải nhập viện cấp cứu vì bị mất nước kéo dài. Sau đó, Woodruff đã quyết định đâm đơn kiện đơn vị cảnh sát trên vì đã bắt oan cô. Đáng nói, cô không phải trường hợp đầu tiên bị AI nhận diện sai lệch dẫn đến bị bắt tù oan. Cô là nạn nhân thứ sáu của công nghệ này tại Mỹ. Đặc biệt, cả sáu người bị bắt oan đều là da màu.

Điều này làm dấy lên một sự lo ngại rằng AI không những không phân biệt được khuôn mặt của người dân bình thường với những kẻ phạm tội, mà còn có dấu hiệu của phân biệt chủng tộc. Thế nhưng, rất nhiều quốc gia trên thế giới và nhất là các cường quốc như Mỹ, Pháp, Đức... đã và đang thông qua luật cho phép AI hoạt động mạnh mẽ trong hệ thống pháp luật. Điều này làm dấy lên lo ngại rằng, nạn phân biệt chủng tộc kết hợp với trí tuệ nhân tạo chưa được hoàn chỉnh sẽ mang đến nhiều hậu quả nghiêm trọng hơn là những vụ bắt bớ vô căn cứ thời gian qua.

Duy Lộc (SHTT)