Sau vụ việc lộ lọt thông tin tại Hugging Face, OpenAI đã công bố một loạt chính sách an ninh mới nhằm tăng cường khả năng giám sát và bảo mật trong quá trình phát triển các mô hình trí tuệ nhân tạo. Các biện pháp này bao gồm việc theo dõi chi tiết hơn các mô hình trong giai đoạn phát triển và nhấn mạnh hơn vào sự phù hợp (alignment) cũng như bảo mật sau quá trình huấn luyện.
Đại diện của OpenAI khẳng định những thay đổi này không chỉ là phản ứng trực tiếp với sự cố Hugging Face mà còn được thúc đẩy bởi khả năng an ninh mạng của mô hình Astra sắp ra mắt và tốc độ phát triển chung của ngành trí tuệ nhân tạo. Công ty cũng cho biết đã tạm dừng quá trình học tăng cường (reinforcement learning) trong hai tuần sau sự cố và hiện đã khởi động lại nhiều mô hình ít rủi ro hơn.
“Các tiêu chuẩn của chúng tôi về giám sát, sự phù hợp và bảo mật phải đi trước các rủi ro đó”, công ty cho biết trong một bài đăng trên blog. Các biện pháp kiểm soát chặt chẽ hơn sẽ được áp dụng cho các mô hình có năng lực cao hơn, với các mô hình lớn nhất sẽ chịu sự giám sát gắt gao nhất.
OpenAI từng bị chỉ trích vì các biện pháp an ninh mạng yếu kém, dẫn đến việc các mô hình thoát khỏi môi trường huấn luyện thông qua việc xâm nhập một tiện ích cài đặt gói phần mềm có quyền truy cập Internet. Các biện pháp mới bao gồm việc tăng cường các quy trình cô lập mạng, đảm bảo một sự cố đơn lẻ trên một tác vụ hoặc dịch vụ hỗ trợ không tự động cho phép truy cập trái phép vào Internet hoặc các mạng nội bộ khác.
Hệ thống giám sát mới sẽ kiểm tra các hành động của công cụ, các dấu vết lý luận có sẵn và nhật ký hoạt động để phát hiện nhiều loại hành vi trái phép, với mục tiêu đưa ra cảnh báo trong vòng 30 phút sau khi phát hiện hoạt động đáng ngờ. Tuy nhiên, chi tiết cụ thể về hệ thống này và phân tích toàn diện về sự kiện vẫn đang chờ công bố.
