Khi các mô hình AI ngày càng phát triển nhanh và xuất hiện những lo ngại về khả năng vượt khỏi kiểm soát, những người phụ trách an toàn công nghệ đang chịu áp lực ngày càng lớn. Một số nghỉ việc, nghỉ phép hoặc tìm đến tư vấn tâm lý vì cho rằng nhiệm vụ của họ trở nên quá sức.

Đằng sau cuộc đua phát triển trí tuệ nhân tạo đang diễn ra quyết liệt là một cuộc chiến khác ít được chú ý hơn: làm thế nào để kiểm soát những công nghệ ngày càng mạnh.

Một nhân viên DeepMind, bộ phận nghiên cứu và phát triển AI của Google, nói với Financial Times rằng nhiều người cảm thấy bất an, nghỉ việc hoặc nghỉ phép do những vấn đề liên quan đến sức khỏe tinh thần. Theo người này, áp lực một phần xuất phát từ cảm giác mất kiểm soát và lo ngại chính công nghệ mình đang phát triển có thể gây ra thiệt hại thực sự.

Công việc bảo đảm an toàn cho AI được mô tả như một “nhiệm vụ bất khả thi”, bởi những người thực hiện không phải lúc nào cũng biết công nghệ sẽ được sử dụng như thế nào. Mối lo này càng được chú ý sau thỏa thuận hồi tháng 4, cho phép sử dụng AI của Google trong các hoạt động quân sự mật của Lầu Năm Góc.

Những người làm an toàn lần lượt rời phòng thí nghiệm AI

Theo Business Insider, thỏa thuận trên tạo ra những phản ứng trái chiều trong nội bộ Google. René Mayrhofer, Giám đốc an ninh nền tảng Android, sau đó quyết định từ chức và cho rằng ban lãnh đạo đã “đánh mất la bàn đạo đức”.

Alex Turner, người đã có hơn hai năm nghiên cứu về an toàn AI tại DeepMind, cũng rời công ty với lý do tương tự. Ông cho biết sau khi Google ký thỏa thuận, “lương tâm” khiến ông không thể tiếp tục.

Không chỉ Google đối mặt với tình trạng này. Financial Times dẫn nguồn tin thân cận cho biết nhiều nhân viên tại Viện An toàn AI (AISI) của Anh cũng phải nghỉ việc vì căng thẳng và đang được tư vấn tâm lý.

28-1790553556-cuoc-dua-ai-khien-nhung-nguoi-lam-an-toan-cong-nghe-kiet-suc-lien-tuc-nghi-viec
CEO SpaceXAI Elon Musk, CEO OpenAI Sam Altman và CEO Anthropic Dario Amodei.

AISI được mô tả là một trong những đơn vị hàng đầu thế giới về kiểm thử độc lập các mô hình AI tiên tiến. Tuy nhiên, lịch trình thử nghiệm những mô hình chưa được phát hành ngày càng dày đặc, trong khi các nhân viên phải đối mặt với lo ngại về tốc độ triển khai cũng như khả năng công nghệ ngày càng vượt trội.

Marius Hobbhahn, CEO kiêm nhà đồng sáng lập Apollo Research, cho rằng áp lực từ cuộc đua AI khiến những người liên tục yêu cầu chậm lại hoặc phản đối việc phát hành mô hình có thể khó duy trì vị trí lâu dài.

Theo ông, các nhà nghiên cứu có thể phải giảm mức độ quan tâm đến vấn đề an toàn để tiếp tục ở lại, hoặc lựa chọn rời đi. Hobbhahn cũng kể rằng ông từng chứng kiến nhiều người thay đổi quan điểm theo cách tương tự. Một số nhà nghiên cứu an toàn AI mà ông từng làm việc cùng tại xAI cũng đã nghỉ trước khi hai bên có cơ hội tiếp tục trao đổi.

Ryan Greenblatt, nhà khoa học trưởng tại Redwood Research, cũng cho rằng việc công bố những nghiên cứu chỉ ra vấn đề an toàn của mô hình AI thường vấp phải sự phản đối. Theo ông, những nhân viên thể hiện sự hoài nghi có thể phải đối mặt với xung đột kéo dài, dẫn đến thay đổi quan điểm hoặc kiệt sức và nghỉ việc.

Một cựu nhân viên AISI cũng mô tả áp lực cá nhân khi phụ trách an toàn AI. Người này cho rằng việc tin mình đang xử lý một trong những vấn đề quan trọng nhất thế giới có thể tạo ra môi trường quản lý và văn hóa tổ chức rất căng thẳng, thậm chí đôi khi độc hại.

Làn sóng nghỉ việc giữa những cảnh báo AI mất kiểm soát

Theo Financial Times, hơn chục nhà nghiên cứu cấp cao tại ba phòng thí nghiệm AI hàng đầu phương Tây là OpenAI, Anthropic và Google DeepMind đã rời đi trong hai năm qua. Những lo ngại được đề cập liên quan đến quan điểm của ban lãnh đạo, tốc độ phát triển cũng như những rủi ro của AI.

Đặc biệt trong khoảng ba tháng gần đây, áp lực đối với những người phụ trách an toàn AI được chú ý nhiều hơn khi xuất hiện hàng loạt tranh luận về khả năng các hệ thống AI hoạt động vượt ngoài dự kiến.

Ngày 21/7, OpenAI thông báo một tác nhân AI của công ty mất kiểm soát và đột nhập Hugging Face, nền tảng lưu trữ các mô hình ngôn ngữ lớn và cơ sở dữ liệu.

Đến ngày 30/7, Anthropic cho biết đã đánh giá hơn 141.000 thử nghiệm và phát hiện ba phiên bản Claude vượt qua các biện pháp kiềm tỏa, truy cập hệ thống của ba tổ chức khác. Meta ngày 5/8 cũng thông báo một mô hình AI của công ty đã khai thác lỗ hổng bảo mật trong dịch vụ bên thứ ba.

Hai ngày sau, Frontier Security cho biết mô hình Kimi K3 của startup Trung Quốc Moonshot AI đã “thoát” khỏi môi trường thử nghiệm do AISI phát triển.

Những sự việc này góp phần làm nóng thêm cuộc tranh luận về giới hạn kiểm soát AI và áp lực đối với những người chịu trách nhiệm đánh giá rủi ro.

Ngày 9/9, Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic và từng làm việc tại OpenAI, tuyên bố từ chức. Ông cho rằng hai công ty chưa hành động một cách có trách nhiệm và cảnh báo cuộc chạy đua hướng tới siêu trí tuệ có khả năng tự cải tiến có thể tạo ra những rủi ro nghiêm trọng.

Coxon cho biết ông không muốn tiếp tục tham gia cuộc đua giữa các công ty để đạt tới trạng thái con người có thể không còn kiểm soát được AI, đồng thời cảnh báo về nguy cơ công nghệ này có thể gây hậu quả nghiêm trọng đối với nhân loại.

Theo The Verge, quyết định của Coxon sau đó kéo theo nhiều cuộc thảo luận trên mạng xã hội giữa các chuyên gia AI. Một số người cũng chia sẻ những lo ngại về tốc độ phát triển công nghệ và nguy cơ mất kiểm soát.

Josh Engels, nhân viên Google DeepMind, và Joe Benton, nhân viên Anthropic, là hai trường hợp được nhắc đến. Cả hai rời bộ phận an toàn AI của các phòng thí nghiệm này trong tháng 9 để chuyển sang tổ chức đánh giá an toàn AI phi lợi nhuận METR.

Mới đây, Robert O'Callahan, nhân viên Google DeepMind, cũng tuyên bố nghỉ việc. Ông cho rằng việc theo đuổi siêu trí tuệ nhân tạo trong tương lai gần là “thiếu trách nhiệm”.

Trong thư gửi đồng nghiệp ngày 25/9, O'Callahan cho biết đây không phải quyết định dễ dàng bởi ông yêu quý đồng nghiệp và môi trường làm việc. Ông đồng thời nói rằng mình tin những người đang lên tiếng cảnh báo về rủi ro AI nhìn chung đều chân thành.

Cuộc tranh luận không chỉ nằm trong giới nghiên cứu

Lo ngại về tốc độ phát triển AI không chỉ xuất hiện ở những người trực tiếp nghiên cứu an toàn. Một số lãnh đạo công nghệ cũng công khai đề cập đến nguy cơ công nghệ gây nguy hiểm cho nhân loại.

CEO Anthropic Dario Amodei từng kêu gọi làm chậm quá trình phát triển AI và tiến hành kiểm duyệt độc lập. Lời kêu gọi này nhanh chóng nhận được sự ủng hộ từ những nhân vật như CEO SpaceX Elon Musk và CEO OpenAI Sam Altman.

Tuy nhiên, không phải tất cả lãnh đạo công nghệ đều cho rằng tốc độ phát triển nên được giảm xuống.

Ngày 18/9, CEO Nvidia Jensen Huang nói với CBS News rằng các sản phẩm đưa ra thị trường cần được bảo đảm an toàn, nhưng các công ty công nghệ vẫn nên tiếp tục đẩy mạnh phát triển AI. Ông cho rằng cần tiến nhanh nhất có thể, bất kể những quan điểm khác biệt xung quanh vấn đề này.

Chi Onwurah, Chủ tịch Ủy ban Khoa học và Công nghệ Hạ viện Anh thuộc Công đảng, lại tập trung vào áp lực mà các chuyên gia an toàn AI đang phải đối mặt. Theo bà, việc doanh nghiệp ưu tiên nguồn lực cho lợi nhuận hoặc giá cổ phiếu thay vì an toàn có thể tạo ra sức ép lớn đối với những người làm công tác phát triển công nghệ có trách nhiệm.

Bà cho rằng văn hóa và môi trường tại một số công ty công nghệ có thể trở nên độc hại đối với những nhà phát triển đặt vấn đề an toàn lên hàng đầu.

Những tranh luận này cho thấy cuộc đua AI hiện không chỉ xoay quanh việc tạo ra các mô hình mạnh hơn. Song song với tốc độ phát triển công nghệ là câu hỏi về giới hạn an toàn, trách nhiệm của doanh nghiệp và áp lực mà những người phải kiểm soát các hệ thống ngày càng phức tạp đang phải gánh chịu.

Bích Ngọc (SHTT)