Lãnh đạo OpenAI viết về rủi ro của AI, đề xuất cách quản trị

Phòng thí nghiệm đã xuất bản một blog vào ngày 22 tháng 5 của Sam Altman, Greg Brockman và Ilya Sutskever. Họ đều là những nhân vật chủ chốt đằng sau sự phát triển của ChatGPT . Họ đã kêu gọi quản lý siêu trí tuệ có khả năng hơn cả AGI (Trí tuệ tổng hợp nhân tạo). Hãy biết thêm về lời kêu gọi đánh giá rủi ro của các nhà lãnh đạo OpenAI!

Tại sao các nhà lãnh đạo OpenAI kêu gọi đánh giá rủi ro

Blog của các nhà lãnh đạo OpenAI gợi ý rằng bây giờ là lúc bắt đầu suy nghĩ về việc quản lý siêu trí tuệ - các hệ thống AI trong tương lai có khả năng mạnh hơn đáng kể so với AGI . Khi các hệ thống AI tiếp tục tăng trưởng theo cấp số nhân, chúng ta có thể kỳ vọng chúng sẽ vượt qua trình độ kỹ năng chuyên môn trong hầu hết các lĩnh vực và thực hiện nhiều hoạt động hiệu quả như một trong những tập đoàn lớn nhất hiện nay.

Giảm thiểu rủi ro liên quan đến AI

Các tác giả chỉ ra rằng khả năng xảy ra rủi ro hiện hữu do AI gây ra có nghĩa là chúng ta không đủ khả năng để phản ứng. Họ đề xuất một số cách để giảm thiểu những rủi ro này. Nó bao gồm nhu cầu về một cơ quan quốc tế có thể kiểm tra hệ thống, yêu cầu kiểm toán, kiểm tra sự tuân thủ các tiêu chuẩn an toàn, đặt ra các hạn chế về mức độ triển khai và mức độ an ninh, v.v. Cơ quan như vậy có thể hoạt động tương tự như Cơ quan Năng lượng Nguyên tử Quốc tế (IAEA).

Câu hỏi nghiên cứu mở

Theo blog OpenAI của các nhà lãnh đạo, an toàn vẫn là một câu hỏi nghiên cứu mở về công việc nào cần phải thực hiện. Giảm thiểu rủi ro liên quan đến AI sẽ đòi hỏi nỗ lực hợp tác từ các nhà nghiên cứu, nhà hoạch định chính sách, lãnh đạo ngành và công chúng.