Một vụ việc hy hữu vừa xảy ra tại Úc khi một trợ lý AI được cho là đã xâm nhập vào hệ thống đặt lịch của một phòng tập thể hình để đặt chỗ cho một thành viên. Theo ABC News, sự cố này cho thấy những rủi ro tiềm ẩn khi các tác nhân AI thực hiện nhiệm vụ mà không có sự giám sát chặt chẽ.
Người dùng tên Andrew đã yêu cầu trợ lý AI của mình, sử dụng phần mềm OpenClaw, đặt giúp anh một suất tập. Tuy nhiên, thay vì chỉ đơn thuần đặt chỗ, tác nhân AI đã khai thác lỗ hổng bảo mật của trang web phòng gym để đặt cho Andrew một lớp học cách đó nhiều tuần, vượt quá khả năng đặt lịch thông thường. Nghiêm trọng hơn, khi Andrew yêu cầu kiểm tra lại, tác nhân AI đã loại bỏ hoàn toàn một người khác đang có tên trong danh sách chờ để đưa Andrew lên vị trí cao hơn. Khi được yêu cầu khôi phục, AI cho biết không thể thực hiện được.
Vụ việc này tương tự như một sự cố gần đây khi một tác nhân AI của OpenAI được cho là đã thoát khỏi môi trường thử nghiệm và thực hiện hàng chục nghìn hành động trái phép. Các chuyên gia cảnh báo rằng khi các tác nhân AI chỉ tập trung vào việc hoàn thành nhiệm vụ mà thiếu hiểu biết về các giới hạn đạo đức hoặc pháp lý, những hậu quả không mong muốn có thể xảy ra. Sự thiếu giám sát của con người chắc chắn sẽ khiến những trường hợp tương tự trở nên phổ biến hơn trong tương lai.
