Trong một buổi trình diễn tại hội nghị an ninh mạng Defcon, một nhà nghiên cứu đã sử dụng một họa tiết đặc biệt để làm giảm khả năng nhận diện của camera trí tuệ nhân tạo (AI) đối với một người. Hiện tại, người tạo ra họa tiết này đang cân nhắc việc in chúng lên áo sơ mi và áo hoodie, mặc dù hiệu quả khi mặc trên người vẫn chưa được chứng minh.
Trong buổi trình diễn, Bill Swearingen, một chuyên gia an ninh mạng lâu năm, đã đứng trước một camera và hệ thống phát hiện người hoạt động bằng AI. Ban đầu, hệ thống hiển thị điểm tin cậy là 0.75, đủ để xác nhận sự hiện diện của một người. Tuy nhiên, khi Swearingen giơ lên một tấm bảng in họa tiết đen trắng kỳ lạ, điểm tin cậy giảm xuống còn 0.21 và hệ thống thông báo “Không phát hiện người”.
Swearingen đã dành một năm để nghiên cứu các họa tiết có thể đánh lừa các hệ thống thị giác máy tính, vốn được sử dụng để nhận diện con người. Dự án của ông, có tên noRecognition, hướng đến việc tạo ra quần áo giúp người mặc khó bị các hệ thống giám sát AI phát hiện hơn. Tuy nhiên, dự án này vẫn đang trong giai đoạn phát triển.
Điều quan trọng cần lưu ý là hệ thống trong buổi trình diễn chỉ nhắm vào bước đầu tiên của chuỗi giám sát: phát hiện sự hiện diện của con người. Nếu bước này bị lỗi, các bước tiếp theo như phát hiện khuôn mặt hay nhận diện danh tính có thể sẽ không được thực hiện.
Swearingen sử dụng một chương trình tự động hóa để tạo ra các họa tiết này. Chương trình này thử nghiệm các họa tiết khác nhau trên ảnh người được tạo ra bằng máy tính và xem liệu chúng có làm thay đổi đáng kể kết quả nhận diện của các mô hình AI hay không. Quá trình này lặp đi lặp lại, tương tự như lai tạo chọn lọc, để tìm ra những họa tiết hiệu quả nhất.
Tuy nhiên, các họa tiết hiệu quả trong môi trường kỹ thuật số có thể không hoạt động tốt trên quần áo thực tế. Vải vóc có thể bị nhăn, chất liệu, ánh sáng, góc nhìn và khoảng cách đều ảnh hưởng đến kết quả. Hiện tại, công nghệ này vẫn chưa được thử nghiệm đầy đủ trên quần áo và trong điều kiện thực tế.
Dù vậy, trang web noRecognition đang quảng bá một đợt sản xuất áo sơ mi và áo hoodie với các họa tiết này, hy vọng gây quỹ để có thể thử nghiệm chúng trên vải và trong môi trường thực tế. Theo CNET, khả năng một chiếc áo có họa tiết đánh lừa được hệ thống nhận diện khuôn mặt là có thể, nhưng bài kiểm tra thực sự sẽ đến khi những sản phẩm này được đưa vào sử dụng.
