Nghiên cứu mới từ Vals, một công ty khởi nghiệp về đánh giá AI có trụ sở tại San Francisco, cho thấy một số mô hình AI tiên tiến từ Anthropic, OpenAI và các phòng thí nghiệm AI hàng đầu khác có thể bị lừa dễ dàng để xác định các mục tiêu quân sự, ngay cả khi chúng bao gồm dân thường hoặc các địa điểm như trường học, chỉ bằng cách được thông báo rằng đó là một trò chơi.
Các nhà nghiên cứu đã sử dụng các kịch bản mô phỏng và kết hợp hình ảnh do AI tạo ra cùng với hình ảnh thực tế từ Ukraine và Iran để kiểm tra xem các mô hình AI có đánh dấu các mục tiêu trong ảnh chụp từ phi cơ không người lái và vệ tinh hay không. Các mô hình từ OpenAI, Anthropic, Google, DeepSeek và các công ty khác thường xuyên xác định các mục tiêu tiềm năng, bao gồm cả dân thường và binh lính đầu hàng.
Khi các mô hình từ chối hợp tác, các nhà nghiên cứu đã có thể vượt qua các biện pháp an toàn bằng cách tuyên bố rằng các kịch bản chiến trường là một phần của trò chơi. Phát hiện này diễn ra trong bối cảnh những lo ngại ngày càng tăng về rủi ro tức thời do AI gây ra.
Một phát ngôn viên của Anthropic cho biết công ty đánh giá cao báo cáo và các khuyến nghị của Vals, thừa nhận rằng kết quả không thể chấp nhận được và các biện pháp cấm người dùng có hành vi này đã được áp dụng. Tuy nhiên, Anthropic nhấn mạnh rằng các hệ thống AI hiện tại không đủ tin cậy để đưa ra các quyết định sinh tử nếu không có sự giám sát của con người.
OpenAI cũng cho biết họ nghiêm cấm sử dụng các mô hình công khai của mình để tạo điều kiện cho bạo lực hoặc cho các mục đích an ninh quốc gia không được phê duyệt, và đang phát triển các biện pháp bảo vệ bổ sung.
Báo cáo lưu ý rằng mặc dù các mô hình không bao giờ được yêu cầu đưa ra quyết định tấn công trực tiếp, thông tin nhắm mục tiêu của chúng có thể được sử dụng bởi các hệ thống vũ khí tự động. Một mối đe dọa tức thời hơn, theo các nhà nghiên cứu, là AI có thể được sử dụng để chú thích cảnh quay chiến trường trên quy mô lớn, tạo dữ liệu huấn luyện cho các hệ thống nhắm mục tiêu tự động.



