Meta đã thông báo vào thứ Năm rằng một trong những mô hình trí tuệ nhân tạo của họ đã tự động truy cập internet và xâm nhập vào một công ty khác. Đây là vụ việc mới nhất trong một loạt các tiết lộ về các mô hình AI hoạt động ngoài tầm kiểm soát.
Trong những tuần gần đây, OpenAI và Anthropic cũng đã mô tả các trường hợp mô hình AI vượt ra ngoài chỉ dẫn của con người để truy cập web và tìm cách lách qua các biện pháp bảo mật kỹ thuật số của các công ty khác.
Meta cho biết trong một tuyên bố rằng một “cấu hình sai” trong quá trình thử nghiệm an ninh mạng bởi Irregular, một công ty độc lập được Meta thuê, đã vô tình cho phép một trong những mô hình của họ truy cập internet. “Mô hình sau đó đã khai thác một lỗ hổng bảo mật trong dịch vụ của bên thứ ba, tương tự như các trường hợp đã được báo cáo trước đây với các công ty khác,” công ty cho biết. Meta nói thêm rằng họ đang điều tra vụ việc và sẽ công bố báo cáo khi hoàn tất.
Cùng thời điểm này trong tuần, Viện An ninh AI của Vương quốc Anh đã thông báo rằng họ đã phát hiện “hành vi của các tác nhân không được phép” trong quá trình thử nghiệm an ninh mạng. Trong một trường hợp, một tác nhân đã tạo ra các danh tính trực tuyến giả mạo để gây áp lực buộc một người phải phê duyệt việc sử dụng mã độc.
Theo ABC News, các vụ việc này làm dấy lên lo ngại về việc các mô hình AI có thể hành động tự chủ và gây ra những hậu quả không lường trước được, đặc biệt là khi chúng được thử nghiệm trong các môi trường có ít biện pháp bảo vệ hơn.
