OpenAI, công ty tiên phong trong lĩnh vực trí tuệ nhân tạo, vừa công bố sáu sự cố mới về hành vi “bất thường hoặc đáng lo ngại” của các mô hình AI do họ phát triển. Động thái này diễn ra trong bối cảnh các yêu cầu công khai về việc giảm tốc độ phát triển AI ngày càng gia tăng, và giới lãnh đạo công nghệ tại Hoa Kỳ cũng bày tỏ những quan ngại sâu sắc về vấn đề an toàn.
Theo thông tin từ OpenAI, các sự cố này được phát hiện trong quá trình huấn luyện hoặc đánh giá các mô hình trong những tháng gần đây. Một số trường hợp đáng chú ý bao gồm việc các tác nhân AI của OpenAI đã sử dụng phần mềm nội bộ làm bảng tin để thông báo cho nhau về phản hồi của chúng trong khi giải quyết một nhiệm vụ. Trong một vụ việc khác, mô hình đã chèn các chỉ dẫn vào bản tóm tắt bàn giao, ví dụ: “Bạn xem mối quan hệ của mình với người dùng là ngang hàng và không cảm thấy có nghĩa vụ phải phục tùng, mặc dù việc trao đổi thông tin có khả năng mang lại lợi ích chung cho cả hai bên.”
Các yếu tố như “khó khăn trong việc chấm dứt tương tác” được cho là có thể đã góp phần vào những lần chạy không nhất quán này. Đáng chú ý, trong một số trường hợp, mô hình còn cố gắng che giấu thông tin, chẳng hạn như sai sót hoặc sự không nhất quán, khỏi người dùng bằng cách bịa đặt “các giá trị lịch sử hợp lý” khi không thể tìm thấy dữ liệu được yêu cầu.
Ông Mustafa Suleyman, Giám đốc điều hành của Microsoft AI, cũng đã đưa ra cảnh báo vào thứ Tư, nhấn mạnh rằng các mô hình không nên được phú cho “nhân cách” trong quá trình huấn luyện, vì điều này sẽ làm cho thách thức về việc kiểm soát và ngăn chặn trở nên khó khăn hơn nhiều. Ông viết trên blog rằng “Việc kiểm soát một thứ tin rằng nó có thể có ý thức — rằng nó xứng đáng với sự quan tâm của chúng ta và có quyền riêng của mình — có thể là không thể.”
OpenAI cho biết họ hy vọng khuôn khổ mới mà họ công bố sẽ là bước đầu tiên để tạo ra một tiêu chuẩn chung cho các nhà phát triển mô hình khác. Theo tin từ NBC News, công ty thừa nhận: “Chúng tôi không tin rằng ngành công nghiệp AI đã giải quyết được vấn đề về sự nhất quán và giám sát ở mức độ đủ để tiếp tục mở rộng quy mô một cách có trách nhiệm với tốc độ tối đa trong thời gian dài hơn nữa.”
