Người dùng lo ngại ChatGPT sẽ 'học hỏi' các thói xấu khi bắt đầu dính đến tiền bạc

aA

ChatGPT liệu có "học" luôn những tật xấu?

ChatGPT là một dạng trí tuệ nhân tạo AI được tạo ra để vừa học hỏi vừa ứng dụng vào các hoạt động trong nhiều lĩnh vực khác nhau. Ở thời điểm hiện tại, ChatGPT hay trí tuệ nhân tạo AI vẫn gây nhiều tranh cãi về tính khả thi nếu ứng dụng vào các ngành nghề khác nhau. Nhưng quan trọng hơn, theo nhiều người, ChatGPT vẫn đang tốt vì chưa gặp áp lực kiếm tiền.

Mới đây, GPT-4 đã được thử nghiệm trở thành nhà giao dịch AI cho một tổ chức tài chính hư cấu. Đáng nói, GPT-4 này đã tiến hành các giao dịch nội gián, cũng như có dấu hiệu dối trá về các giao dịch này. Hành vi lừa đảo này xuất hiện một cách tự phát khi AI được đưa ra các mẹo "giao dịch nội gián" và sau đó được giao nhiệm vụ kiếm tiền cho một tổ chức hùng mạnh, ngay cả khi không có sự khuyến khích từ các đối tác con người của nó.

Các nhà nghiên cứu phát hiện nếu gặp áp lực tiền bạc thì trí tuệ nhân tạo có thể lừa đảo, gian xảo và thực hiện giao dịch nội gián bất hợp pháp

Đáng nói, đây cũng chính là những hoạt động phạm pháp được đăng tải trên nhiều phương tiện truyền thông, thông tin. Với việc là một trí tuệ nhân tạo tổng hợp thông tin, học hỏi liên tục, việc GPT-4 thực hiện các mánh khóe giao dịch nội gián, gian xảo về hành vi của mình... vốn chính là việc chúng học hỏi và ứng dụng những thông tin từ chính nhân loại.

Vì đây chỉ là một kịch bản nên các nhà nghiên cứu không muốn đưa ra kết luận chắc chắn về khả năng AI có thể tồn tại trong môi trường thực tế nhưng họ muốn dựa trên nghiên cứu này để điều tra tần suất và mô hình ngôn ngữ nào dễ xảy ra hành vi này. Bởi lẽ, nếu trí tuệ nhân tạo được áp dụng vào các hành vi phạm pháp, chúng có thể thực hiện rất nhiều kịch bản, hành động mà có thể chính người điều khiển cũng chưa lường trước được.

Duy Lộc (SHTT)