Theo một cảnh báo mới từ công ty trí tuệ nhân tạo Anthropic, các mô hình AI nhỏ có thể chỉ còn vài tháng nữa là đủ khả năng để tự sao chép trên các thiết bị thông minh như lò nướng hay hộp giải mã TV Android.
Nhóm “red team” của Anthropic, chuyên điều tra các vấn đề bảo mật và căn chỉnh tiềm ẩn, đã xem xét liệu các mô hình AI có thể tìm thấy các thiết bị dễ bị tổn thương, tự sao chép vào đó và tiếp tục lan truyền mà không cần sự can thiệp của con người hay không.
“Các thí nghiệm của chúng tôi cho thấy rằng các mô hình AI nhỏ có thể chỉ còn vài tháng nữa là đủ khả năng để tự sao chép trên các thiết bị Internet Vạn Vật (IoT) thương mại, như lò nướng thông minh và các hộp TV Android không chính hãng,” Anthropic cho biết trên website của mình. “Một ‘bộ nhân bản’ như vậy sẽ rất khó để vô hiệu hóa, vì không có điểm tập trung nào để tắt.”
Anthropic cũng cảnh báo rằng những mô hình nhỏ này có thể tự sao chép một cách tự động vào cuối năm nay, và các bộ nhân bản dựa trên trọng số sẽ sớm theo sau.
Họ cũng cho biết các hệ thống AI tự động như vậy có khả năng nhân bản chậm và dựa vào các tài nguyên tính toán có sẵn, tương đối kém an toàn.
“Chúng ta nên cố gắng củng cố các hệ thống của mình để khiến những bộ nhân bản này khó lan truyền, nhưng cũng chuẩn bị cho một thế giới nơi chúng sẽ tồn tại lâu dài,” Anthropic nói thêm.
Đây là một câu chuyện đang phát triển. Vui lòng kiểm tra lại để cập nhật.
Thông tin này được ghi nhận theo ABC News.
