Điều gì thực sự khiến Geoffrey Hinton trở thành kẻ hủy diệt AI

AI đang phát triển ngoài mong đợi

Hinton tin rằng AI đang tiến bộ nhanh hơn ông và các chuyên gia khác mong đợi, dẫn đến nhu cầu cấp thiết là đảm bảo rằng nhân loại có thể ngăn chặn và quản lý nó. Ông đặc biệt lo ngại về những rủi ro ngắn hạn như các chiến dịch đưa thông tin sai lệch do AI tạo ra phức tạp hơn, nhưng ông cũng tin rằng các vấn đề dài hạn có thể nghiêm trọng đến mức chúng ta cần bắt đầu lo lắng về chúng ngay bây giờ.

Cái nhìn sâu sắc về phát triển AI

Điều gây ra cảnh báo mới của Hinton về công nghệ mà ông đã dành cả đời để nghiên cứu chính là hai phát hiện sâu sắc gần đây. Một là sự tương tác mang tính khám phá với một hệ thống AI mới mạnh mẽ, trong trường hợp của anh ấy là mô hình ngôn ngữ AI PaLM của Google, tương tự như mô hình đằng sau ChatGPT . Một vài tháng trước, Hinton cho biết anh đã yêu cầu người mẫu giải thích một trò đùa mà anh vừa bịa ra và rất ngạc nhiên khi nhận được câu trả lời giải thích rõ ràng điều gì khiến trò đùa đó trở nên buồn cười. Đây là một bước phát triển đáng kể vì trong nhiều năm, các nhà khoa học đã chắc chắn rằng phải rất lâu nữa AI mới có thể cho bạn biết tại sao những trò đùa lại hài hước.

Nhận thức tỉnh táo thứ hai của Hinton là niềm tin trước đây của ông rằng phần mềm cần phải trở nên phức tạp hơn nhiều giống như bộ não con người để trở nên có khả năng cao hơn đáng kể, có lẽ là sai. PaLM là một chương trình lớn, nhưng độ phức tạp của nó không đáng kể so với chương trình của bộ não, tuy nhiên nó có thể thực hiện loại lý luận mà con người phải mất cả đời mới đạt được. Hinton kết luận rằng khi các thuật toán AI trở nên lớn hơn, chúng có thể vượt xa những người tạo ra chúng trong vòng một vài năm.

Lời nói của chúng tôi

Hinton không phải là người duy nhất bị lung lay bởi những khả năng mới mà các mô hình ngôn ngữ lớn như PaLM hay GPT-4 đã bắt đầu trình diễn. Tháng trước, một số nhà nghiên cứu AI nổi tiếng và những người khác đã ký một bức thư ngỏ kêu gọi tạm dừng phát triển bất cứ thứ gì mạnh hơn hiện tại. Quyết định rời khỏi ngành của Hinton chắc chắn đã gây nhiều sự chú ý và làm dấy lên mối lo ngại về việc AI sẽ hướng tới đâu. Hơn thế nữa, nó xảy ra trong bối cảnh các cảnh báo của các nhà lãnh đạo ngành và nỗ lực của chính phủ nhằm kiểm soát sự phát triển và sử dụng AI.

Kể từ khi rời Google, Hinton cảm thấy quan điểm của mình về việc liệu có nên tiếp tục phát triển AI hay không đã bị hiểu sai. “Rất nhiều tiêu đề nói rằng tôi nghĩ việc này nên dừng lại ngay bây giờ—và tôi chưa bao giờ nói điều đó,” anh nói. “Trước hết, tôi không nghĩ điều đó là khả thi và tôi nghĩ chúng ta nên tiếp tục phát triển nó vì nó có thể làm được những điều tuyệt vời. Nhưng chúng ta nên nỗ lực như nhau để giảm thiểu hoặc ngăn chặn những hậu quả xấu có thể xảy ra.”

XEM THÊM: Bạn đang bỏ lỡ điều gì khi chưa nâng cấp lên tài khoản ChatGPT Plus