Ông Dario Amodei, Giám đốc điều hành (CEO) của công ty trí tuệ nhân tạo Anthropic, cho biết ngành công nghiệp AI cần chậm lại quá trình phát triển nhanh chóng của mình để các biện pháp an toàn có đủ thời gian bắt kịp.
Trong một bài viết trên trang cá nhân, ông Amodei cảnh báo rằng trong vòng 6 đến 12 tháng tới, AI có thể đạt đến mức độ nguy hiểm, bao gồm khả năng dẫn đầu một cuộc tấn công chiếm lĩnh toàn bộ internet.
Ông đề xuất một kế hoạch nhằm tăng cường kiểm soát đối với ngành công nghiệp AI, trong đó Anthropic đã bắt đầu thực hiện một phần. Các phần còn lại đòi hỏi sự phối hợp rộng rãi từ các công ty trong ngành và các chính phủ trên toàn thế giới, kể cả các quốc gia độc tài.
“Tôi tin rằng nếu việc làm chậm lại giúp chúng ta có thêm một hoặc hai năm trước khi các mô hình đạt đến mức độ năng lực tới hạn, và chúng ta sử dụng thời gian đó để thúc đẩy sự liên kết, chúng ta có thể giảm đáng kể nguy cơ xảy ra điều gì đó nghiêm trọng,” ông Amodei nói.
Các nhân vật tên tuổi khác trong ngành AI đã nhanh chóng bày tỏ sự ủng hộ. Sam Altman, CEO của OpenAI, cho biết công ty đứng sau ChatGPT sẽ cam kết thực hiện một trong những đề xuất an toàn của ông Amodei. Elon Musk cũng đồng tình trên nền tảng X: “Dario nói đúng.”
Nguy cơ được đặt ra là rất lớn, ngay cả khi một số nhà phê bình cho rằng những lời cảnh báo trước đó chỉ là cách để khuấy động sự quan tâm đến ngành AI và khả năng của nó. Anthropic và OpenAI đang chuẩn bị cho khả năng lên sàn chứng khoán với mức định giá có thể lên tới hàng trăm tỷ đô la.
Trước đó vài ngày, một nhà nghiên cứu của Anthropic đã tuyên bố từ chức vì lo ngại rằng Anthropic và các đối thủ cạnh tranh không hành động có trách nhiệm trong việc phát triển AI. Một cựu nhân viên khác của Anthropic, Joe Benton, cũng bày tỏ quan ngại tương tự, cho rằng nhân loại “có thể không sống sót qua quá trình chuyển đổi này” nếu AI không được kiểm soát.
Ông Amodei thừa nhận rằng các biện pháp ông đề xuất để thúc đẩy sự phát triển AI một cách an toàn sẽ không dễ dàng. Tuy nhiên, ông nhấn mạnh: “Tôi tin rằng chúng ta nợ nhân loại phải cố gắng.” Bài viết được đăng tải theo tin từ Associated Press.
