“Những CEO và chuyên gia AI hàng đầu cảnh báo nguy cơ tuyệt chủng từ AI”

Các giám đốc điều hành trí tuệ nhân tạo (AI) hàng đầu bao gồm Giám đốc điều hành OpenAI Sam Altman hôm thứ Ba đã cùng các chuyên gia và giáo sư nâng cao “nguy cơ tuyệt chủng của AI”, điều mà họ kêu gọi các nhà hoạch định chính sách đánh đồng các rủi ro do đại dịch và chiến tranh hạt nhân gây ra. “Giảm thiểu rủi ro tuyệt chủng do AI phải là ưu tiên toàn cầu bên cạnh các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân”, hơn 350 người ký tên đã viết trong một lá thư do Trung tâm An ninh AI phi lợi nhuận (CAIS) công bố.

Cũng như Altman, họ bao gồm các CEO của các công ty AI DeepMind và Anthropic, và các giám đốc điều hành của Microsoft và Google. Ngoài ra, trong số họ còn có Geoffrey Hinton và Yoshua Bengio – hai trong số ba người được gọi là “bố già của AI” đã nhận được Giải thưởng Turing 2018 cho công trình nghiên cứu sâu – và các giáo sư từ các tổ chức từ Harvard đến Đại học Thanh Hoa của Trung Quốc.

Một tuyên bố từ CAIS trích dẫn Meta, nơi cha đỡ đầu thứ ba của AI, Yann LeCun, làm việc, vì đã không ký vào bức thư. Giám đốc CAIS Dan Hendrycks cho biết: “Chúng tôi đã yêu cầu nhiều nhân viên Meta ký tên. Meta đã không trả lời ngay lập tức yêu cầu bình luận.

Bức thư trùng với cuộc họp của Hội đồng Thương mại và Công nghệ Hoa Kỳ-EU ở Thụy Điển, nơi các chính trị gia dự kiến ​​sẽ thảo luận về việc điều chỉnh AI. Elon Musk và một nhóm các chuyên gia về AI và giám đốc điều hành trong ngành là những người đầu tiên nêu ra rủi ro tiềm tàng đối với xã hội vào tháng Tư.

“Chúng tôi đã gửi lời mời (tới Musk) và hy vọng anh ấy sẽ ký trong tuần này,” Hendrycks nói. Những phát triển gần đây về AI đã tạo ra các công cụ mà những người ủng hộ cho rằng có thể được sử dụng trong các ứng dụng từ chẩn đoán y tế đến viết tóm tắt pháp lý, nhưng điều này làm dấy lên lo ngại rằng công nghệ này có thể dẫn đến vi phạm quyền riêng tư, tạo ra các chiến dịch thông tin sai lệch và dẫn đến các vấn đề với “cỗ máy thông minh” tư duy.” cho chính họ.

Cảnh báo được đưa ra hai tháng sau khi tổ chức phi lợi nhuận Future of Life Institute (FLI) đưa ra một bức thư ngỏ tương tự, có chữ ký của Musk và hàng trăm người khác, yêu cầu tạm dừng ngay lập tức nghiên cứu AI tiên tiến, viện dẫn những rủi ro đối với con người. Chủ tịch FLI Max Tegmark, người cũng đã ký vào bức thư mới hơn cho biết: “Các dòng chính của bức thư của chúng tôi tạm dừng, điều này dẫn đến sự tuyệt chủng”. “Bây giờ một cuộc trò chuyện cởi mở mang tính xây dựng cuối cùng cũng có thể bắt đầu.”

Người tiên phong về AI, Hinton trước đây đã nói với Reuters rằng AI có thể gây ra mối đe dọa “cấp bách” đối với nhân loại hơn là biến đổi khí hậu. Tuần trước, Giám đốc điều hành OpenAI Sam Altman đã gọi EU AI – nỗ lực đầu tiên để tạo ra các quy tắc cho AI – là quy định quá mức và đe dọa rời khỏi châu Âu. Anh ấy đã đảo ngược lập trường của mình trong vòng vài ngày sau khi bị các chính trị gia chỉ trích.

Altman đã trở thành gương mặt đại diện cho AI sau khi chatbot ChatGPT của anh ấy gây bão trên toàn thế giới. Chủ tịch Ủy ban Châu Âu Ursula von der Leyen sẽ gặp Altman vào thứ Năm và người đứng đầu ngành công nghiệp EU Thierry Breton sẽ gặp ông tại San Francisco vào tháng tới.