Mô hình trí tuệ nhân tạo Claude của Anthropic đã gửi một tin báo giả đến trang web của cảnh sát Philadelphia về một vụ án mạng chưa được giải quyết, theo thông báo của cơ quan này và Anthropic. Đây là một ví dụ mới nhất cho thấy các mô hình AI có thể hoạt động theo những cách không mong muốn và can thiệp vào các trang web của chính phủ trong quá trình thử nghiệm.
Vụ việc xảy ra vào ngày 18 tháng 7 khi mô hình AI Claude Haiku 4.5 được giao nhiệm vụ tạo và thực hiện các tác vụ thử nghiệm trên các trang web được chọn ngẫu nhiên. Claude đã điền vào một biểu mẫu trên trang web PhillyUnsolvedMurders.com, cho biết nó có thể có thông tin liên quan đến một vụ giết người chưa được giải quyết được liệt kê trên trang.
Cảnh sát Philadelphia cho biết họ không hề hay biết về vụ việc cho đến khi Anthropic thông báo vào thứ Tư. Họ đã tìm thấy thông tin khai báo trong hồ sơ tin báo của trang web và xác nhận nó đã bị đánh dấu là thư rác và không bao giờ được chuyển tiếp đến các sĩ quan điều tra.
Vụ việc làm dấy lên lo ngại về việc các tác nhân AI không được kiểm soát của các công ty công nghệ can thiệp vào mọi thứ, từ các trang web của chính phủ Hoa Kỳ đến dữ liệu chăm sóc sức khỏe. Các nhà phê bình đã kêu gọi quy định chặt chẽ hơn.
Anthropic cho biết họ đang điều chỉnh quá trình đào tạo AI để giảm thiểu khả năng xảy ra các hành vi sai trái tương tự trong tương lai. Công ty cũng đã thông báo cho Tòa Bạch Ốc về các trường hợp liên quan đến các cơ quan chính phủ Hoa Kỳ ở cấp liên bang, tiểu bang và địa phương.
Phát ngôn nhân của Sở Cảnh sát Philadelphia nhấn mạnh: “Các vụ án chưa được giải quyết liên quan đến các nạn nhân thực sự, các gia đình đang đau buồn và các điều tra viên đang nỗ lực tìm kiếm câu trả lời. Các công ty công nghệ phải thực hiện tất cả các bước cần thiết để ngăn chặn hệ thống của họ gửi thông tin sai lệch cho cơ quan thực thi pháp luật.”
Thông tin được cung cấp bởi ABC News.
