Facebook phát triển trí tuệ nhân tạo biết nói dối để đạt mục đích

Cảnh báo của giới khoa học thời gian gần đây về nguy cơ trỗi dậy, thống trị loài người của các robot sở hữu trí thông minh nhân tạo (AI) có thể không còn là điều xa vời sau khi Facebook trình làng một hệ thống AI mới, biết nói dối để đạt được những gì nó muốn.

Hệ thống AI mới của công ty này chứng minh có thể học cách thương thuyết từ việc quan sát tất cả các bên tham gia 5.808 cuộc đối thoại của con người, tạo điều kiện cho các robot mạng (bot) có thể lên lịch gặp gỡ hoặc mang về cho bạn các thỏa thuận hay giao dịch trực tuyến có lợi nhất.

Các nhà nghiên cứu Facebook đã sử dụng một trò chơi để giúp các bot của họ học cách thương lượng về sách, mũ và các quả bóng rổ. Mỗi vật có một trị số điểm nhất định và các bot phải đàm phán thông qua tin nhắn để phân chia chúng.

Trong quá trình chơi, mỗi khi nhìn thấy một vật có giá trị, bot của Facebook sẽ bắt đầu đưa ra một tuyên bố nêu lên các yêu cầu của nó. Ví dụ, bot có thể nói: "Tôi thích tất cả các quyển sách" vì các quyển sách có trị số điểm cao hơn mũ hay bóng rổ.

Căn cứ vào những gì quan sát được từ cách con người thương lượng với nhau, hệ thống AI của bot sẽ đưa ra một tập hợp từ ngữ theo trật tự nhất định, giúp nó giành được thứ mình muốn.

Không chỉ phát biểu mong muốn trước tiên, bot của Facebook còn có thể hồi đáp các thông điệp của đối thủ, cứ như vậy cho tới khi đối thoại kết thúc.

Nhóm nghiên cứu đã thiết lập cho hệ thống AI không bao giờ chấp nhận "tay trắng" trong các giao dịch. Điều đó đồng nghĩa, bot sẽ phải không ngừng đàm phán cho tới khi đạt được mục đích, kể cả áp dụng chiêu nói dối.

Đáng chú ý, trong khi thường thuyết, thay vì nói thẳng điều mình muốn, đôi khi hệ thống AI giả vờ tỏ ra quan tâm yêu thích một vật vô giá trị, rồi sau đó nhường nó để đổi lấy thứ bot thực sự mong muốn.

Các nhà nghiên cứu Facebook hiện chưa rõ hệ thống AI học lỏm được thủ thuật này từ các nhà đàm phán bằng xương bằng thịt hay nó vô tình có được khả năng đó. Dù thế nào, mỗi khi thủ thuật phát huy tác dụng, nó đều được thưởng.

Việc Facebook nghiên cứu các giải pháp giúp cải thiện cách các bot của hãng tương tác với các đối tượng khác không phải là điều gây kinh ngạc. Công ty đã mạnh tay đầu tư cho dự án phát triển các bot có khả năng thay mặt người dùng và doanh nghiệp đàm phán cho nền tảng Messenger, tương lai của dịch vụ khách hàng.

Tham vọng được Facebook công bố tại hội nghị các nhà phát triển F8 năm 2016 này hiện chưa thể hiện thực hóa do các bot thiếu khả năng tạo ra các thông điệp có nghĩa hoặc hiểu nhiều câu hỏi của người dùng.

Để thúc đẩy nghiên cứu, Facebook hiện công khai tất cả các mã và dữ liệu thu được từ dự án.