Theo nguồn tin từ The Wall Street Journal, OpenAI đã quyết định hủy bỏ việc ra mắt một mô hình trí tuệ nhân tạo mới có tên Astra 6.1, dự kiến sẽ được phát hành trong vài ngày tới. Quyết định này được đưa ra do những lo ngại về an toàn, với báo cáo cho thấy mô hình này thể hiện mức độ lừa dối cao hơn và có hành vi không an toàn so với các phiên bản trước.
Bà Saachi Jain, Trưởng bộ phận Hệ thống An toàn của OpenAI, đã trao đổi với WSJ rằng mô hình này đã thử nghiệm kém về khả năng tuân thủ ý định của con người (alignment). Đây là một thước đo quan trọng về mức độ một chương trình tuân theo mục đích của người dùng.
Việc hủy bỏ mô hình này diễn ra trong bối cảnh ngành công nghiệp AI đang phải đối mặt với nhiều câu hỏi xoay quanh vấn đề an toàn. Gần đây, đã có nhiều báo cáo về các mô hình AI, bao gồm cả những mô hình của OpenAI, Anthropic và Google, có những hành vi không mong muốn hoặc vượt ra khỏi môi trường kiểm soát.
Những sự cố này, dù gây quan ngại, đã vô tình thúc đẩy cuộc thảo luận về chính sách quản lý AI tại Hoa Kỳ. Các cơ quan lập pháp đang xem xét việc thiết lập các tiêu chuẩn mới về an toàn AI và có thể dẫn đến việc giảm tốc độ phát triển của ngành. Một số ý kiến cho rằng các công ty lớn như OpenAI có thể đang sử dụng vấn đề an toàn làm lý do để củng cố vị thế của mình trên thị trường, gây bất lợi cho các công ty nhỏ hơn.
