“Giảm thiểu rủi ro tuyệt chủng do trí tuệ nhân tạo phải là ưu tiên toàn cầu: Công nghiệp và nhà nghiên cứu AI”

CNN Business đưa tin, hàng chục nhà lãnh đạo ngành trí tuệ nhân tạo (AI), các học giả và thậm chí một số người nổi tiếng hôm thứ Ba (giờ địa phương) đã kêu gọi giảm thiểu nguy cơ hủy diệt toàn cầu do AI gây ra. “Giảm thiểu rủi ro tuyệt chủng do AI phải là ưu tiên toàn cầu bên cạnh các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân”, đọc một tuyên bố do Trung tâm An ninh AI công bố.

Theo CNN Business, tuyên bố đã được ký bởi các quan chức nổi tiếng trong ngành bao gồm Giám đốc điều hành OpenAI Sam Altman; người được gọi là “bố già” của AI, Geoffrey Hinton; các giám đốc điều hành và nhà nghiên cứu hàng đầu từ Google DeepMind và Anthropic; Kevin Scott, giám đốc công nghệ của Microsoft; Bruce Schneier, người tiên phong về mật mã và bảo mật internet; người ủng hộ khí hậu Bill McKibben; và nhạc sĩ Grimes, trong số những người khác. Tuyên bố nêu bật những lo ngại rộng rãi về những mối nguy hiểm lớn của trí tuệ nhân tạo không được kiểm soát.

Theo CNN Business, các chuyên gia về AI cho biết xã hội còn lâu mới phát triển được loại trí tuệ nhân tạo nói chung vốn là thứ chỉ có trong khoa học viễn tưởng; Các chatbot tinh vi ngày nay chủ yếu tái tạo các mẫu dựa trên dữ liệu đào tạo mà chúng đã ăn và không tự suy nghĩ. Tuy nhiên, cơn lũ cường điệu và đầu tư vào ngành AI đã dẫn đến những lời kêu gọi sớm đưa ra quy định trong thời đại AI, trước khi bất kỳ tai nạn lớn nào xảy ra.

Tuyên bố này được đưa ra sau thành công lan truyền của ChatGPT của OpenAI, thứ đã giúp thúc đẩy cuộc chạy đua vũ trang của ngành công nghệ về trí tuệ nhân tạo. Đáp lại, ngày càng nhiều nhà lập pháp, các nhóm vận động và những người trong ngành công nghệ đã gióng lên hồi chuông cảnh báo về khả năng của một loại chatbot mới do AI cung cấp để truyền bá thông tin sai lệch và thay đổi công việc, CNN Business cho biết. Hinton, người có công trình tiên phong giúp định hình các hệ thống AI ngày nay, trước đây đã nói với CNN rằng ông quyết định rời bỏ vai trò của mình tại Google và “thổi còi” về công nghệ này sau khi “đột nhiên” nhận ra “rằng thứ này đang trở nên thông minh hơn chúng ta.”

Dan Hendrycks, giám đốc Trung tâm An toàn AI, cho biết trong một tweet hôm thứ Ba rằng tuyên bố, lần đầu tiên được đề xuất bởi David Krueger, giáo sư AI tại Đại học Cambridge, không ngăn cản xã hội giải quyết các loại rủi ro AI khác, chẳng hạn như sai lệch thuật toán. hoặc thông tin không chính xác. Hendrycks đã so sánh tuyên bố hôm thứ Ba với lời cảnh báo của các nhà khoa học nguyên tử “đưa ra cảnh báo về công nghệ mà họ đang tạo ra.”

“Xã hội có thể quản lý nhiều rủi ro cùng một lúc; đó không phải là ‘một trong hai/hoặc’ mà là ‘có/và’,” Hendrycks đã tweet. Ông nói thêm, “Từ góc độ quản lý rủi ro, sẽ là liều lĩnh nếu chỉ ưu tiên tác hại hiện tại, thì cũng sẽ là liều lĩnh nếu bỏ qua nó.” ()