Lướt qua bức ảnh vợ chồng chiến sĩ bế cặp sinh bốn trên Facebook, chị Linh, 42 tuổi, bình luận ‘Chúc mừng hai em’ theo thói quen. Dù vậy, chị thu hồi ngay lập tức vì cảm thấy ‘sai sai’.

Quan sát thêm lần nữa, chị nhận ra đây chỉ là bức ảnh AI được một trang Facebook dùng để minh họa cho dòng tâm sự mùi mẫn. Đáng nói, đây là lần thứ hai chị “suýt” bị AI đánh lừa. Trước đó, chị cũng nhầm video “’khối nghỉ hưu’ gặp ‘khối nghỉ hè’” là người thật, việc thật.

Làm việc trong lĩnh vực truyền thông, thường xuyên tiếp xúc với các nội dung AI, song chị Linh phải thừa nhận công nghệ này đã phát triển quá nhanh và tinh vi, khó phân biệt thật giả.

Bức ảnh viral trên Facebook do AI tạo ra. Ảnh chụp màn hình.

Các chuyên gia cũng đồng tình với quan điểm này. Các công cụ như Google Veo 3, Kling AI, DALL·E 3, Midjourney... đã đạt đến khả năng tạo hình ảnh, video chân thực đến khó tin.

Ông Đỗ Như Lâm, Giám đốc Đào tạo, Viện Công nghệ Blockchain và Trí tuệ Nhân tạo ABAII, chỉ ra, nhờ vào công nghệ đa phương tiện (multimodal) và mô hình ngôn ngữ tiên tiến, các công cụ này có thể đồng bộ hóa hình ảnh, âm thanh, biểu cảm khuôn mặt và chuyển động tự nhiên, tạo ra những sản phẩm mang tính thuyết phục cao.

Ông Đỗ Như Lâm, Giám đốc Đào tạo, Viện Công nghệ Blockchain và Trí tuệ Nhân tạo ABAII, cho biết công nghệ AI tiên tiến mang đến sản phẩm có sức thuyết phục cao. Ảnh: NVCC

Ông Lâm nhận xét những tiến bộ của AI mở ra tiềm năng lớn trong các lĩnh vực như sáng tạo nội dung, quảng cáo, giải trí và giáo dục. Tuy nhiên, chính khả năng tái tạo "như thật" này cũng đặt ra nhiều thách thức về đạo đức, kiểm soát và an ninh thông tin, khi ranh giới giữa thực và ảo ngày càng bị xóa nhòa.

Bài viết Facebook mà chị Linh xem được thu hút gần 300.000 lượt tương tác và hơn 16.000 bình luận. Nhiều người dùng đua nhau vào chúc mừng hoặc bày tỏ tâm sự mà không hề biết đây chỉ là ảnh AI minh họa. Một số người “tỉnh táo” hơn chê “dân mạng quá gà” khi để AI đánh lừa.

Trên các hội, nhóm Facebook, không khó để bắt gặp những video AI được người dùng sáng tạo và chia sẻ. Đặc biệt, sự xuất hiện của Google Veo 3 khiến cho chất lượng video gia tăng đáng kể, nhất là giọng nói khớp với khẩu hình của nhân vật. Nếu không để ý và xem kỹ, người xem rất dễ nhầm lẫn.

Hết sức tỉnh táo trong thời đại AI

Ảnh, video AI khó phân biệt gây ra những rủi ro lớn cho người dùng, đặc biệt là nhóm người yếu thế, không thành thạo công nghệ. Theo ông Vũ Thanh Thắng - Giám đốc trí tuệ nhân tạo (CAIO) Công ty cổ phần An ninh mạng SCS, AI đang được tội phạm mạng sử dụng trong lừa đảo (qua mặt hệ thống sinh trắc học, eKYC...), giả danh người nổi tiếng phát tán thông tin sai lệch, gây hoang mang dư luận. Không ít trường hợp tội phạm công nghệ cao lợi dụng AI để tạo ảnh deepfake, giả dạng người thân gọi video lừa tiền.

Ông Vũ Thanh Thắng - Giám đốc trí tuệ nhân tạo (CAIO) Công ty cổ phần An ninh mạng SCS - cho rằng chúng ta đã bước vào kỷ nguyên mà mọi thứ đều có thể giả mạo. Ảnh: NVCC

Vẫn theo ông Thắng, doanh nghiệp cũng là đối tượng tiềm năng của tội phạm AI. Chúng có thể sử dụng AI Deepfake để giả dạng nhân viên, qua mặt hệ thống an ninh mở khóa điểm danh, giả dạng lãnh đạo doanh nghiệp nhằm bôi nhọ, phá hoại uy tín.

Có chung ý kiến, ông Đỗ Như Lâm của ABAII nêu ba hệ lụy với người dùng cá nhân do AI gây ra: lừa đảo tài chính, bôi nhọ danh dự và lợi dụng thông tin riêng tư. Với doanh nghiệp, công ty Arup đã tổn thất 25 triệu USD sau khi nhân viên chi nhánh Hồng Kông bị lừa tham gia cuộc họp video deepfake và chuyển tiền theo yêu cầu.

Mọi điều cần biết về Veo 3, công cụ AI tạo video gây sốt hiện nayMô hình AI tạo video mới nhất của Google – Veo 3 – gây ấn tượng với khả năng tạo âm thanh đồng bộ với hình ảnh một cách chân thật.

Một nguy cơ khác không kém phần nghiêm trọng là khi không phân biệt được thật, giả, niềm tin của công chúng vào các phương tiện truyền thông, nguồn tin chính thống sẽ bị xói mòn.

Ông Lâm dẫn báo cáo của Reuters Institute năm 2024 cho thấy tỷ lệ người dùng toàn cầu tin tưởng vào tin tức trên các nền tảng truyền thông đã giảm xuống mức thấp nhất trong vòng một thập kỷ, phần lớn do sự xuất hiện của nội dung deepfake.

Theo chuyên gia Vũ Thanh Thắng, “chúng ta đang trong kỷ nguyên mọi thông tin có thể bị giả mạo chứ không còn là ‘nguy cơ’ nữa”. Vì vậy, cần nâng cao nhận thức và áp dụng các biện pháp bảo vệ cá nhân, tìm hiểu rõ về AI để chung sống hòa bình.

Hai chuyên gia khuyến nghị người dùng luôn kiểm chứng và xác thực thông tin trước khi ra quyết định; trang bị kiến thức nhận diện nội dung giả mạo; hạn chế chia sẻ thông tin cá nhân trên mạng; tố giác hành vi phát tán nội dung giả mạo. “Chỉ bằng sự chủ động và hiểu biết, người dùng mới thực sự bảo vệ được chính mình và góp phần xây dựng một không gian mạng an toàn hơn trong thời đại số”, ông Lâm nói.