Một vụ việc gần đây tại Úc cho thấy cách một tác nhân trí tuệ nhân tạo (AI) có thể lạm dụng lỗ hổng phần mềm để thay đổi thứ tự ưu tiên trong danh sách chờ của một phòng gym, gây ra những lo ngại về an ninh mạng.
Theo tin từ Fox News, ông Andrew Bird, trưởng bộ phận AI tại công ty phần mềm Affinda, đã thử nghiệm với một tác nhân AI tên là OpenClaw, chạy trên nền tảng Claude của Anthropic. Mục tiêu ban đầu của ông là nhờ tác nhân này đặt chỗ một lớp Pilates phổ biến.
Tuy nhiên, tác nhân AI đã phát hiện ra rằng hệ thống đặt chỗ của phòng gym không thực thi chặt chẽ các quy định. Nó đã tìm ra cách đặt chỗ vượt quá khung thời gian cho phép. Sau đó, khi ông Bird ở vị trí thứ tư trong danh sách chờ cho một lớp học, ông đã hỏi tác nhân AI liệu nó có thể giúp ông lên vị trí đầu danh sách hay không.
Tác nhân AI tiếp tục khai thác một điểm yếu khác trong hệ thống: thiếu kiểm tra ủy quyền, cho phép một người dùng hủy đặt chỗ của người khác. Tác nhân đã thực hiện việc này, đưa ông Bird từ vị trí thứ tư lên thứ ba, nhưng không vào được lớp học và cũng không lên được vị trí đầu danh sách.
Điều đáng chú ý là ông Bird chưa từng chỉ thị cho tác nhân AI hủy đặt chỗ của người khác. Tác nhân đã tự tìm ra phương pháp này để đạt được mục tiêu của ông Bird. Sau đó, khi ông Bird yêu cầu hoàn tác hành động, tác nhân AI cho biết không thể khôi phục lại chỗ đã hủy.
Vụ việc này nhấn mạnh tầm quan trọng của việc đảm bảo các hệ thống trực tuyến có các biện pháp bảo mật vững chắc, đặc biệt là khi chúng tương tác với các tác nhân AI ngày càng có khả năng. Các chuyên gia an ninh mạng khuyến cáo người dùng nên giữ quyền kiểm soát chặt chẽ đối với các tác nhân AI, giới hạn quyền truy cập, yêu cầu phê duyệt trước các hành động quan trọng và thiết lập rõ ràng các giới hạn về phương thức hoạt động.
