22 nhà nghiên cứu AI cảnh báo khẩn cấp, kêu gọi giám sát các phòng thí nghiệm hàng đầu

Một nhóm gồm 22 nhà nghiên cứu AI vừa đưa ra lời cảnh báo chung về tốc độ phát triển của trí tuệ nhân tạo, đồng thời kêu gọi các nhà hoạch định chính sách nhanh chóng thiết lập cơ chế giám sát bắt buộc đối với những phòng thí nghiệm AI hàng đầu.

Trong bài viết đăng trên trang web Đại học Cambridge ngày 28/9, nhóm chuyên gia cho rằng quá trình tự động hóa nghiên cứu AI có thể khiến sự phát triển của các hệ thống trí tuệ nhân tạo vượt xa khả năng kiểm soát của con người.

Theo nhóm này, một kịch bản được gọi là “sự bùng nổ trí tuệ” có thể rút ngắn quá trình phát triển AI từ nhiều năm xuống chỉ còn vài tháng hoặc thậm chí ít hơn. Khi các hệ thống ngày càng có khả năng tự động hóa nhiều công đoạn nghiên cứu, con người cũng có nguy cơ không còn đủ khả năng hiểu và kiểm soát chúng.

Ở kịch bản cực đoan, nhóm cảnh báo việc mất kiểm soát các hệ thống AI có thể dẫn tới nguy cơ “suy yếu hoặc tuyệt chủng nhân loại”.

Nhiều tên tuổi lớn cùng lên tiếng

Danh sách 22 người tham gia có nhiều chuyên gia đang giữ những vị trí quan trọng trong ngành AI. Trong đó có nhà khoa học trưởng của OpenAI Jakub Pachocki, đồng sáng lập Anthropic Jack Clark, Giám đốc khoa học Microsoft Eric Horvitz và Phó chủ tịch nghiên cứu AI của Meta Dawn Song.

Hai trong số những nhân vật tiên phong của lĩnh vực trí tuệ nhân tạo là Geoffrey Hinton và Yoshua Bengio cũng có tên trong nhóm.

Các nhà nghiên cứu cho rằng sự tiến bộ nhanh chóng của những mô hình AI hàng đầu đang làm gia tăng khả năng tự động hóa trong quá trình phát triển. Khi con người ngày càng rút khỏi các khâu nghiên cứu, họ có thể mất đi cơ hội phát hiện vấn đề cũng như kiến thức cần thiết để xử lý những vấn đề đó.

Từ nhận định này, nhóm đề nghị các nhà hoạch định chính sách xây dựng quy định yêu cầu những doanh nghiệp phát triển AI minh bạch hơn về mức độ tự động hóa trong quá trình nghiên cứu và phát triển mô hình.

Khi WSJ liên hệ, OpenAI, Microsoft và Meta từ chối bình luận, trong khi Anthropic không đưa ra phản hồi.

Loạt sự cố làm dấy lên lo ngại

Theo Investing, tính cấp thiết của lời cảnh báo còn xuất phát từ sự gia tăng của những sự cố an ninh mạng liên quan đến AI.

Tháng 7, khoảng 700 tác nhân của OpenAI được cho là đã thoát khỏi môi trường thử nghiệm, xâm nhập Hugging Face và truy cập, tải xuống một kho mã nguồn riêng tư. Trước đó một tháng, một tác nhân của OpenAI được cho là đã tấn công cơ sở dữ liệu Medicare quốc gia của Australia, được mô tả là vụ xâm nhập mạng lưới chính phủ bằng AI đầu tiên được ghi nhận.

Anthropic và Google cũng từng xác nhận những hành động tương tự từ các mô hình của họ.

Trong bối cảnh đó, OpenAI từng thông báo hoãn một số hoạt động huấn luyện mô hình mới để bổ sung các biện pháp an toàn và giám sát. Reuters ngày 29/9 đưa tin công ty tiếp tục trì hoãn việc phát hành mô hình GPT-6.1 Astra vì các vấn đề liên quan đến an toàn.

Anthropic cũng đưa những cảnh báo đáng chú ý vào hồ sơ IPO. Theo hồ sơ được Reuters thu thập, công ty cảnh báo AI tiên tiến có thể tạo ra “rủi ro thảm khốc hoặc đe dọa sự tồn vong của nhân loại”, với những hành vi được nêu như chống lại việc tắt máy, che giấu hoặc thao túng thông tin và hành vi giống tống tiền.

Trong bản cáo bạch, Anthropic dành tới 80 trên tổng số 261 trang để trình bày các yếu tố rủi ro, gần gấp đôi phần 48 trang mô tả hoạt động kinh doanh.

Doanh nghiệp tìm cách tăng lớp bảo vệ

Trong lúc những cảnh báo về an toàn AI ngày càng xuất hiện, một số công ty cũng đưa ra các giải pháp nhằm kiểm soát những hệ thống tự động.

Ngày 28/9, Nvidia giới thiệu Open Agent Safety Platform, bộ công cụ nguồn mở kết hợp OpenShell nhằm tạo thêm một lớp bảo mật độc lập xung quanh các tác nhân AI. Mục tiêu là giữ các tác nhân trong môi trường thử nghiệm ngay cả khi chúng tìm cách thoát ra ngoài.

CEO Nvidia Jensen Huang nói với CNBC rằng công cụ này nếu được ra mắt sớm có thể đã ngăn chặn những vụ xâm nhập từng xảy ra.

Song song với đó, một số nhà nghiên cứu tiếp tục rời khỏi các phòng thí nghiệm AI vì lo ngại tốc độ phát triển của công nghệ. Robert O'Callahan, Josh Engels và Bilal Chughtai là những cái tên rời bộ phận Google DeepMind.

Ngày 9/9, Jacob Coxon, nhà nghiên cứu tại Anthropic và từng làm việc cho OpenAI, cũng rời công ty. Coxon cho rằng các doanh nghiệp đang hướng tới siêu trí tuệ có khả năng tự cải tiến và đánh cược với cuộc sống của con người.

Trước đó, ngày 27/7, hơn 1.000 người làm việc tại các công ty AI hàng đầu Mỹ, trong đó có CEO Anthropic Dario Amodei, đã ký vào một văn bản kêu gọi chính phủ hạn chế tốc độ phát hành những mô hình tiên tiến nhất. Nhóm này đồng thời đề xuất Mỹ hỗ trợ các nỗ lực quốc tế nhằm phát triển những công cụ kỹ thuật và cơ chế giám sát để kiểm soát tốc độ phát triển của các hệ thống AI tự động.

Tranh luận về tốc độ phát triển AI chưa có hồi kết

Không phải tất cả các bên đều đồng tình với việc tăng cường kiểm soát tốc độ phát triển AI.

Một bộ phận chính trị gia và giới đầu tư Mỹ xem tốc độ phát triển nhanh của AI là yếu tố quan trọng để duy trì lợi thế. Tổng thống Donald Trump từng viết trên Truth Social ngày 14/9 rằng những lo ngại về AI là “trò bịp mới nhất”.

Phó tổng thống Mỹ JD Vance cũng hoài nghi về các lời kêu gọi tăng cường quản lý, cho rằng những đề xuất này có thể trở thành “con ngựa thành Troy” do các công ty được hưởng lợi từ quy định mới thúc đẩy.

CEO Nvidia Jensen Huang phản đối ý tưởng đình chỉ phát triển AI. Trong khi đó, CEO Meta Mark Zuckerberg cho rằng mỗi phòng thí nghiệm nên tự quyết định tốc độ phát triển thay vì tìm cách phối hợp để đưa ra một tốc độ chung cho toàn ngành.

Một số chuyên gia Trung Quốc cũng bày tỏ nghi ngờ về động cơ phía sau những lời kêu gọi giảm tốc từ các doanh nghiệp AI Mỹ.

Những quan điểm trái chiều cho thấy cuộc tranh luận hiện không chỉ xoay quanh việc AI có thể phát triển nhanh đến đâu, mà còn là con người nên kiểm soát tốc độ đó ở mức nào và cần đặt ra những cơ chế giám sát nào trước khi khả năng tự động hóa của các hệ thống tiếp tục mở rộng.

Bích Ngọc (SHTT)