Công ty nghiên cứu trí tuệ nhân tạo Anthropic đang phát triển một hệ thống mã nguồn mở mang tên FlashProve, nhằm mục đích xác minh nguồn gốc của các phản hồi do mô hình AI tạo ra. Theo một bài đăng trên blog của công ty, hệ thống này cung cấp bằng chứng về “suy luận có thể chứng minh”, đảm bảo về mặt toán học rằng một kết quả đầu ra cụ thể đến từ một mô hình AI nhất định.
FlashProve hoạt động tương tự như chữ ký email mã hóa, giúp người dùng xác nhận rằng thông điệp nhận được thực sự đến từ người gửi đã khai báo. Hệ thống này được thiết kế để chống lại các kẻ mạo danh cố gắng che đậy một mô hình này bằng một mô hình khác, ngay cả khi kẻ mạo danh chính là phòng thí nghiệm đã xây dựng và vận hành mô hình gốc. Điều này có thể ngăn chặn các công ty AI bí mật thay thế một mô hình rẻ hơn để cắt giảm chi phí, hoặc sử dụng một mô hình đắt tiền hơn để thổi phồng kết quả hiệu suất.
Ngoài ra, FlashProve còn có thể được sử dụng để xác minh các tuyên bố của bên thứ ba về việc một tác vụ cụ thể được thực hiện bởi một mô hình tiên tiến. Ví dụ, một nhà phát triển có thể tuyên bố rằng thư viện phần mềm của họ đã được quét lỗ hổng bởi một mô hình an ninh mạng tiên phong, hoặc một công ty có thể khẳng định rằng kế hoạch kinh doanh của họ đã được một mô hình phù hợp phê duyệt. Hệ thống này sẽ giúp người dùng xác minh những tuyên bố đó.
Để hoạt động, FlashProve yêu cầu các phòng thí nghiệm AI phải công bố một “dấu vân tay” của mỗi mô hình họ phát hành. Dấu vân tay này có thể được đối chiếu với các kết quả đầu ra cụ thể và xác minh bằng mật mã. Quan trọng là, dấu vân tay không tiết lộ trọng số của mô hình (weights), là các con số nội bộ định hình hành vi của mô hình và được các nhà sản xuất mô hình đóng như Anthropic và OpenAI giữ bí mật. Điều này cho phép các phòng thí nghiệm công bố dấu vân tay mà không làm lộ tài sản quý giá nhất của họ, cho phép hệ thống hoạt động với cả các mô hình thương mại. Hệ thống cũng được thiết kế để nhẹ, cho phép xác minh được thực hiện trên thiết bị cục bộ.
Theo TechCrunch, các nhà nghiên cứu đã công bố thông số kỹ thuật chi tiết và mã nguồn đang hoạt động cho các yếu tố khác nhau của hệ thống, có sẵn theo giấy phép mã nguồn mở trên GitHub. Tuy nhiên, các nhà nghiên cứu nhấn mạnh rằng đây là một bài chia sẻ tiến độ nghiên cứu trung gian, không phải là một chương trình nghiên cứu hoàn chỉnh, và họ mong muốn cộng đồng xem xét và cải tiến nó.
