Cạm bẫy từ trí tuệ nhân tạo: ChatGPT bị "đầu độc dữ liệu", gián tiếp đẩy người dùng vào tay các website lừa đảo

Sự bùng nổ của các dòng chatbot AI đang mở ra một kỷ nguyên công nghệ tiện lợi, nhưng đồng thời cũng trở thành mảnh đất màu mỡ cho tội phạm mạng hoành hành.

Theo thông tin từ tờ Guardian, dịch vụ kiểm tra lừa đảo danh tiếng Ask Silver vừa phát hiện ra việc chatbot thuộc biên chế của OpenAI liên tục đề xuất các trang web bán lẻ giả mạo. Mục đích tối thượng của các nền tảng ma này là thu thập thông tin thanh toán từ những khách hàng nhẹ dạ và thiếu cảnh giác.

Chiến thuật săn tìm "khoảng trống" và chiêu trò "đầu độc dữ liệu" tinh vi

Để giăng bẫy người dùng, các nhóm tội phạm mạng đã xây dựng các trang web lừa đảo bắt chước hoàn toàn giao diện của các cửa hàng thực tế, đồng thời sử dụng các đường dẫn URL gần như trùng khớp với trang web chính thức. Nếu không có sự kiểm tra kỹ lưỡng từ trước, người mua hàng rất khó để phát hiện ra sự khác biệt. Đặc biệt, phân tích từ giới chuyên gia cho thấy, tội phạm lừa đảo đang cố tình nhắm mục tiêu vào các thương hiệu vừa mới tuyên bố đóng cửa hoặc bị mua lại. Đây là thời điểm xuất hiện khoảng trống lớn giữa nhu cầu mua sắm thực tế của người tiêu dùng và sự hiện diện chính thức của thương hiệu đó trên Internet.

Bà Anna Jones, chuyên gia thuộc tổ chức Ask Silver, đã đưa ra một dẫn chứng điển hình liên quan đến Russell & Bromley – nhà bán lẻ giày dép nổi tiếng của Anh vừa phá sản vào tháng 1. Ngay sau khi thương hiệu này được mua lại bởi tập đoàn Next, do trang web chính thức cũ không còn hoạt động, những kẻ lừa đảo đã lập tức tạo ra một bản sao "giống hệt". Chúng tiến hành tối ưu hóa hệ thống để trang web ma này xuất hiện chễm chệ trong kết quả tìm kiếm của ChatGPT. Hậu quả là bất kỳ khách hàng nào lên tiếng hỏi chatbot về các sản phẩm của Russell & Bromley đều bị AI này dẫn đường thẳng tới địa chỉ giả mạo.

Giải thích về hiện tượng đáng ngại này, chuyên gia Anna Jones nhận định rằng các đối tượng xấu đã thực hiện một kỹ thuật mang tên "đầu độc dữ liệu". Chúng cố tình cài cắm vào dữ liệu huấn luyện của ChatGPT những nội dung được thiết kế tinh vi nhằm quảng bá rộng rãi cho các trang web lừa đảo, khiến AI nhận diện sai lệch và đưa vào danh mục gợi ý cho người dùng.

Lời cảnh báo từ OpenAI và hồi chuông báo động cho người mua sắm

Trước những lỗ hổng nghiêm trọng bị phanh phui, OpenAI đã buộc phải đưa ra động thái sửa sai. Hiện tại, công ty công nghệ này đã tiến hành cập nhật lại kết quả tìm kiếm cho các truy vấn mua sắm liên quan đến thương hiệu Russell & Bromley, đồng thời cho hiển thị một dòng cảnh báo trực diện: "Một số trang web quảng cáo sản phẩm Russell & Bromley với khuyến mãi 80% có vẻ đáng ngờ và có thể không phải là nhà bán lẻ chính thức. Các báo cáo gần đây chỉ ra sự xuất hiện của các cửa hàng Russell & Bromley giả mạo trong kết quả tìm kiếm được hỗ trợ bởi AI".

Dựa trên các nghiên cứu được thực hiện trước đó, bản thân ChatGPT vốn đã gặp rất nhiều khó khăn trong việc đưa ra các đề xuất sản phẩm có tính nhất quán và độ tin cậy cao. Tuy nhiên, việc hệ thống tự động chuyển hướng người dùng đến thẳng các trang web lừa đảo được xem là một thất bại lớn của nền tảng này. Đáng lo ngại hơn, vấn đề này có khả năng sẽ ngày càng trầm trọng và nhức nhối hơn khi AI đang dần trở thành một phần cốt lõi trong quy trình mua sắm hàng ngày của xã hội.

Trao đổi với phóng viên tờ Guardian, bà Louise Baxter thuộc Cơ quan Tiêu chuẩn Thương mại Quốc gia Anh thẳng thắn nhìn nhận, các đối tượng lừa đảo luôn sở hữu khả năng thích ứng cực kỳ nhanh chóng với các làn sóng công nghệ mới. Do đó, bà đưa ra lời khuyên khẩn thiết rằng người tiêu dùng tuyệt đối không nên đặt niềm tin mù quáng vào bất kỳ một trang web nào, chỉ vì địa chỉ đó được đề xuất bởi trí tuệ nhân tạo. Sự cẩn trọng và chủ động xác minh lại thông tin luôn là lá chắn tối ưu nhất để bảo vệ túi tiền của chính mình trên không gian số.