Một kỹ sư của Google cho biết anh bị cho nghỉ phép sau khi báo cáo rằng một bot trò chuyện "đã có tri giác" giống như con người.
Ảnh minh họa

Blake Lemoine nói với tờ Washington Post rằng anh bắt đầu chat với giao diện LaMDA (Mô hình Ngôn ngữ Áp dụng Hội thoại) từ mùa Thu năm ngoái, như một phần công việc của anh tại tổ chức nghiên cứu trí thông minh nhân tạo (AI) tại Google.

Năm ngoái, Google mô tả LaMDA là "công nghệ hội thoại đột phá". AI hội thoại này có thể tham gia các cuộc hội thoại mở với phong thái tự nhiên. Google cho biết LaMDA có thể được sử dụng trong các công cụ như tìm kiếm và Google Assistant, tuy vậy hãng vẫn nghiên cứu và thử nghiệm.

Lemoine cuối tuần trước đăng bài trên trang web Medium mô tả LaMDA "là một con người". Anh cho biết đã trò chuyện với LaMDA về các chủ đề tôn giáo, nhận thức, các điều luật dành cho thế giới robot, và bot này tự mô tả bản thân là người có tri giác. Lemoine bổ sung rằng LaMDA muốn "ưu tiên sức khỏe của con người" và muốn "được nhìn nhận là nhân viên của Google, thay vì một tài sản".

Tuy vậy, khi anh báo cáo về LaMDA cho cấp trên tại Google, họ đã nhanh chóng phủ nhận.

"Đội ngũ của chúng tôi, bao gồm các cố vấn đạo đức và các kỹ sư, đã xem xét lo ngại của Blake dựa trên Nguyên tắc AI và sau đó thông báo với anh rằng các bằng chứng không ủng hộ nhận định của anh. Blake đã được thông báo rằng không có bằng chứng cho thấy LaMDA có tri giác, và có rất nhiều bằng chứng chống lại điều đó)," Brian Gabriel, phát ngôn viên của Google, nói với New York Post.

Lemoine bị cho nghỉ việc tạm thời vì vi phạm chính sách bảo mật thông tin của Google, theo New York Post. Anh đề nghị LaMDA tự tìm luật sư và thậm chí trao đổi với một nghị sĩ để giải quyết các lo ngại.

Phát ngôn viên Google cho biết một số ý kiến đã nêu khả năng AI có tri giác giống như con người, nhưng các mô hình trò chuyện hiện nay rõ ràng chưa thể đạt được điều đó.

"Những hệ thống đó chỉ bắt chước các mẫu trao đổi trong hàng triệu câu chữ, và có thể trò chuyện về bất cứ chủ đề nào," New York Post dẫn lời Gabriel cho hay.

Gabriel và các nhà nghiên cứu cũng cho rằng các mô hình AI đã thu thập nhiều dữ liệu tới mức chúng có thể bắt chước cách nói của con người, nhưng chỉ có kỹ năng ngôn ngữ thì chưa thể coi là có tri giác.

Hà An (Nguoiduatin.vn)