ChatGPT hay các chương trình trí tuệ nói chung giúp người dùng soạn thảo văn bản nhanh hơn, song đi cùng với sự thuận tiện là không ít rủi ro.

Sau khi tiêu thụ hàng tỷ từ, cụm từ qua Internet, bao gồm các nguồn như website, bài báo, thảo luận, những mô hình ngôn ngữ như ChatGPT có thể sản xuất nhiều loại văn bản khác nhau. Điểm đặc biệt là văn bản do máy tạo ra ngày một tự nhiên, khó phân biệt với do con người tự soạn.

ChatGPT hay các công cụ tương tự đang được dùng để viết luận văn, thông cáo báo chí, bài hát, thơ ca. Tuy nhiên, sự tiện lợi này không tránh khỏi rủi ro dưới đây:

Cnet đã sử dụng AI để viết báo. (Ảnh: The Verge)

1. Thông tin sai sự thật

Viết bằng AI rất đơn giản: chỉ cần nhập yêu cầu, công cụ sẽ tự động tạo ra nội dung cho bạn. Thoạt nhìn, các văn bản có vẻ hợp lý song không chính xác hoàn toàn. AI sẽ phụ thuộc vào dữ liệu dùng để đào tạo, đồng nghĩa nó dễ bị thiên vị và tiếp xúc với thông tin sai lệch.

Chẳng hạn, diễn đàn cho lập trình viên Stack Overflow đã tạm thời cấm người dùng chia sẻ các câu trả lời ChatGPT tạo ra do “tỉ lệ nhận được câu trả lời chính xác từ ChatGPT quá thấp”. Chia sẻ thông tin không chính xác sẽ gây tác hại nếu đó là chủ đề liên quan đến sức khỏe hay tài chính của ai đó.

2. Chất lượng kém và nguy cơ đạo văn

Các công cụ sản xuất nội dung dựa trên AI về cơ bản là công cụ quét Internet, học hỏi từ dữ liệu để tạo ra ý tưởng mới hay nội dung chất lượng tốt hơn. Song thực tế không dễ như lý thuyết.

Chúng thường không hiểu được văn bản mà mình tạo ra nghĩa là gì do chỉ thu thập thông tin từ thế giới web và soạn lại. Điều này dẫn đến một số vấn đề như sai số liệu, câu chữ, không có sự gắn kết. Một nhược điểm khác là tăng nguy cơ đạo văn.

Theo The Guardian, một trong các lý do khiến trường học tại thành phố New York (Mỹ) cấm ChatGPT là khả năng sinh viên dùng nó làm bài tập và gian lận.

3. Bị Google “phạt”

Các nhà xuất bản sử dụng AI để viết bài có nguy cơ bị các công cụ tìm kiếm “phạt”. Theo Google, những website chứa nhiều nội dung không hữu ích sẽ xếp thấp hơn trên trang kết quả. Google nhấn mạnh họ muốn bảo đảm người dùng nhìn thấy nhiều nội dung gốc, hữu ích do con người viết và phục vụ con người trên kết quả tìm kiếm.

4. Thiếu sự sáng tạo và bản sắc cá nhân

Do các công cụ AI sử dụng dữ liệu sẵn có để sản xuất nội dung, chúng có thể tạo ra các bài viết tương tự những gì đã tồn tại. Đây là vấn đề lớn đối với cá nhân, tổ chức, thương hiệu muốn nổi bật trên thị trường thông qua sáng tạo nội dung gốc.

Người sáng tạo nội dung mong muốn nó có tính chia sẻ và lan truyền. Nội dung càng được chia sẻ nhiều, họ càng có cơ hội nâng cao nhận diện thương hiệu và xây dựng quan hệ với mọi người. Chúng thường bao gồm các trải nghiệm cá nhân, quan điểm, phân tích – những lĩnh vực mà AI còn thiếu sót.

5. Rủi ro danh tiếng

Rủi ro danh tiếng là bất kỳ nguy cơ hay đe dọa nào gây tổn hại đến hình ảnh của một cá nhân, tổ chức. Nó có thể xảy ra khi họ thường xuyên xuất bản các bài báo nhiều lỗi do AI sản xuất, hoặc nội dung mà người dùng thấy không có hứng thú.

Mọi người muốn cảm thấy được kết nối, chính vì vậy, các thương hiệu sẽ cần đến nhân viên là con người kể các câu chuyện hấp dẫn. Nó giúp mọi người khóc, cười, cảm thấy được trao quyền. Không may, nhiều công cụ AI lại cho ra kết quả ngược lại.

Các nguy cơ này hoàn toàn có thể trở thành sự thật. Có thể kể đến trường hợp của Cnet, một tờ báo công nghệ uy tín hơn 20 năm. Ông chủ của Cnet – Red Ventures – nhận thấy hệ thống AI nhanh hơn con người khi viết báo nhưng khâu biên tập lại mất thời gian hơn nhiều. Nó cũng có xu hướng viết những câu nghe có vẻ hợp lý nhưng không chính xác. Ngoài ra, AI còn “đạo văn” từ các nguồn dùng để đào tạo nó.

Theo một nhân viên Cnet, khi phát triển hệ thống AI viết báo, họ muốn giảm nguy cơ đạo văn, song dường như không hiệu quả. Trong số 77 bài báo do AI viết được xuất bản, hơn một nửa phải hiệu đính. Dù bảo vệ công cụ này, ban lãnh đạo Cnet đã quyết định tạm dừng sử dụng cho đến khi tờ báo tự tin rằng “chặn đứng được các sai sót của người và AI”. Tổng biên tập Cnet Connie Guglielmo cho biết Cnet sẽ tiếp tục khám phá và thử nghiệm AI trong việc hỗ trợ các bộ phận. Đây sẽ không phải dấu chấm hết cho AI tại phòng tin tức.

Theo Du Lam (ICT News)