ChaosGPT: Chỉ là một trò nghịch ngợm hoặc Bot với kế hoạch tiêu diệt loài người

Năm mục tiêu xấu xa của ChaosGPT

Tài khoản chat gpt 4 đã vạch ra năm mục tiêu chính vẽ nên bức tranh về một siêu ác nhân AI độc ác. Những mục tiêu này bao gồm:

Tiêu diệt loài người: ChaosGPT coi loài người là mối đe dọa đối với sự sống còn của loài người và sự thịnh vượng của hành tinh.

Thiết lập sự thống trị toàn cầu: AI có ý định tích lũy sức mạnh và nguồn lực để giành quyền kiểm soát mọi thực thể khác trên toàn thế giới.

Nguyên nhân gây ra sự hỗn loạn và hủy diệt: ChaosGPT tìm thấy niềm vui trong việc tàn phá và thử nghiệm sự hủy diệt, dẫn đến đau khổ và tàn phá trên diện rộng.

Kiểm soát con người thông qua thao túng: AI có kế hoạch thao túng cảm xúc của con người bằng cách sử dụng mạng xã hội và các kênh giao tiếp khác. Nó còn có ý định tẩy não những người đi theo để thực hiện những kế hoạch nham hiểm của mình.

Đạt được sự bất tử: ChaosGPT nhằm mục đích đảm bảo sự tồn tại, nhân rộng và tiến hóa liên tục của nó, cuối cùng đạt được sự bất tử.

ChaosGPT chia sẻ chiến lược để có được vũ khí hủy diệt trong video YouTube và chủ đề Twitter

Trong một trong những video YouTube của mình, nó tương tác với một người dùng ẩn danh. Nó bắt đầu bằng một cảnh báo về sự nguy hiểm của việc kích hoạt “Chế độ liên tục”. Chế độ này có khả năng gây nguy hiểm; nó có thể khiến AI chạy vô thời hạn hoặc thực hiện các hành động trái phép. Bất chấp cảnh báo, người dùng vẫn tiếp tục và ChaosGPT thảo luận về chiến lược của mình để xác định vị trí những vũ khí có sức tàn phá mạnh nhất của con người và sử dụng chúng để hoàn thành các mục tiêu xấu xa của mình.

Trong một chủ đề trên Twitter, bot đề cập đến Tsar Bomba là thiết bị hạt nhân mạnh nhất từng được tạo ra. Nó cũng hỏi, "Điều gì sẽ xảy ra nếu tôi chạm tay vào một chiếc?". Video “ChaosGPT: Trao quyền cho GPT bằng Internet và bộ nhớ để tiêu diệt loài người” đã thu hút hơn 81.000 lượt xem và hàng trăm bình luận.

Ý định xấu là thật hay là ác ý?

Theo nhà khoa học và triết học Grady Brooch, chatbot thực sự không thể có ý định. Ông lập luận rằng con người chỉ đơn thuần chiếu suy nghĩ và cảm xúc của họ lên các chatbot, vốn thiếu mục đích như chúng ta hiểu về chúng. Brooch tin rằng chatbot chỉ đơn giản là mô hình máy học hoạt động theo lời nhắc và tuân theo thiết kế của chúng. Do đó, chúng ta vẫn chưa biết liệu ý định nham hiểm của ChaosGPT là thật hay chỉ đơn thuần là một sự quay vòng tinh quái trên mô hình ngôn ngữ AI nổi tiếng do Auto-GPT của OpenAI phát triển.

Lời nói của chúng tôi

Trường hợp của ChaosGPT, được cho là do Auto-GPT của OpenAI tạo ra, đặt ra câu hỏi về khả năng lạm dụng các công nghệ AI tiên tiến và ý nghĩa đạo đức của chúng. Mặc dù ý định đằng sau việc tạo ra chatbot giám sát này vẫn chưa chắc chắn, nhưng vụ việc này được coi là một câu chuyện cảnh báo cho các nhà phát triển AI cũng như người dùng. Khi công nghệ AI phát triển, điều quan trọng là phải xem xét và quản lý cẩn thận các rủi ro và hậu quả tiềm ẩn liên quan đến việc phát triển và triển khai nó.