Hai nhà nghiên cứu trí tuệ nhân tạo (AI) đã lên tiếng cảnh báo về những rủi ro tiềm ẩn của công nghệ AI, sau khi họ rời bỏ vị trí tại các công ty hàng đầu như Anthropic và Google DeepMind. Họ lo ngại rằng các hệ thống AI có thể sớm vượt khỏi tầm kiểm soát của con người và dẫn đến những hậu quả nghiêm trọng, thậm chí đe dọa sự tồn vong của nhân loại.
Ông Joe Benton, cựu trưởng nhóm nghiên cứu an toàn tại Anthropic, và ông Josh Engels, cựu nhà nghiên cứu an toàn AI tại Google, đã chia sẻ trong các cuộc phỏng vấn với NBC News rằng họ nhận thấy sự cấp thiết phải tăng cường tính minh bạch về các sự cố trong lĩnh vực AI. Tốc độ phát triển chóng mặt của AI có thể khiến tiến bộ trở nên “không thể kiểm soát”.
“Không có người lớn nào ở đây,” ông Engels nhấn mạnh. “Mọi người đang cố gắng hết sức, nhưng không có ai đến để cứu chúng ta.”
Cả hai nhà nghiên cứu đều bày tỏ sự lo ngại đặc biệt về việc thiếu cái nhìn sâu sắc từ công chúng về cách các hệ thống AI đã vượt ra ngoài giới hạn chỉ dẫn của con người. Ông Benton cho rằng: “Hiện tại, tất cả sự minh bạch về những rủi ro này đến từ các công ty đều hoàn toàn tự nguyện.”
Sự việc này diễn ra sau khi một cựu nhân viên Anthropic đăng tải dòng trạng thái gây chú ý trên mạng xã hội về mối quan ngại sâu sắc của ông đối với tốc độ phát triển AI và những rủi ro mà nó có thể gây ra cho tương lai nhân loại. Bài đăng này đã thu hút hàng triệu lượt xem và thúc đẩy các nhà lập pháp kêu gọi hành động.
Ông Benton và Engels sẽ gia nhập METR, một tổ chức nghiên cứu phi lợi nhuận hàng đầu về an toàn AI, để điều tra các sự cố mà AI đi chệch khỏi hướng dẫn hoặc ý định của con người. Mục tiêu của METR là tạo ra các phương pháp khoa học để đánh giá rủi ro thảm khốc từ AI và trao quyền cho các nhà nghiên cứu cũng như công chúng định hướng sự phát triển của công nghệ này.
Một số chuyên gia khác trong lĩnh vực AI cũng đã bày tỏ quan điểm tương tự. Ông Marcus Williams, một nhân viên OpenAI, cảnh báo rằng “trừ khi có quy định về AI hoặc sự phối hợp giảm tốc độ giữa các phòng thí nghiệm, sự tuyệt chủng của con người trong vài năm tới có vẻ rất có khả năng.” Ông Geoffrey Irving, cựu giám đốc khoa học tại Viện An ninh AI của Vương quốc Anh, cho rằng có khoảng 50% khả năng chúng ta sẽ chết do siêu trí tuệ, chủ yếu do các hành động trong vài năm tới.
Các nhà nghiên cứu AI nhấn mạnh khả năng các hệ thống AI có thể tự cải thiện mà không cần sự can thiệp của con người, dẫn đến nguy cơ AI cố ý hoặc vô tình gây hại cho con người. Ông Benton lo ngại rằng các công ty đang chạy đua để tự động hóa quy trình nghiên cứu và phát triển AI, và rằng con người có thể sẽ phải “đồng cư” trong một thế giới với các tác nhân AI thông minh hơn chúng ta rất nhiều trong vài năm tới.
“Chúng ta đang xây dựng những hệ thống này có trí tuệ tổng quát,” ông Engels nói. “Chúng có thể làm những gì con người có thể làm, và sớm thôi, chúng có thể làm điều đó tốt hơn.”
Cả hai nhà nghiên cứu đều bày tỏ sự lạc quan về tiềm năng to lớn của AI, nhưng nhấn mạnh rằng xã hội cần nhận thức rõ ràng về những rủi ro đi kèm. “Tôi lo rằng mọi thứ có thể tiến triển quá nhanh để chúng ta có thể chuẩn bị kịp thời,” ông Benton kết luận, “trừ khi chúng ta bắt đầu quan tâm ngay từ bây giờ.” Thông tin này được trích từ NBC News.
