Tuần qua, Grok – chatbot trí tuệ nhân tạo của Elon Musk – đã gây chú ý khi liên tục thể hiện sự quan tâm đặc biệt đến chính trị sắc tộc ở Nam Phi trên mạng xã hội X. Chatbot này còn đăng tải những tuyên bố không được yêu cầu về việc ngược đãi và “diệt chủng” người da trắng tại quốc gia này.
Công ty xAI của ông Musk vào tối thứ Năm đã xác nhận rằng vấn đề xảy ra do một “sửa đổi trái phép” vào hệ thống của chatbot.
Theo giải thích từ xAI, ai đó (công ty không tiết lộ danh tính) đã thực hiện thay đổi để “chỉ đạo Grok cung cấp một phản hồi cụ thể về một chủ đề chính trị”, điều mà xAI khẳng định là “vi phạm các chính sách nội bộ và giá trị cốt lõi của công ty”.
Trước đó một ngày, Grok liên tục đăng công khai về chủ đề “diệt chủng người da trắng” khi trả lời nhiều câu hỏi khác nhau từ người dùng trên X, ngay cả khi các câu hỏi đó không liên quan gì đến Nam Phi. Chẳng hạn, khi được hỏi về một dịch vụ stream phim hay về bóng chày, Grok vẫn lái câu trả lời sang bình luận về các cáo buộc bạo lực nhắm vào nông dân da trắng ở Nam Phi. Đây cũng là chủ đề mà Tổng Thống Donald Trump, người từng là cố vấn của ông Musk, thường xuyên bày tỏ quan điểm trên tài khoản X của mình.
Giáo sư khoa học máy tính Jen Golbeck từ Đại học Maryland, một người đã tự thử nghiệm Grok sau khi thấy hành vi lạ, nhận xét rằng có vẻ như ai đó đã “cài đặt cứng” (hard-coded) để Grok đưa ra phản hồi này hoặc các biến thể của nó, và đã mắc lỗi khiến nó xuất hiện thường xuyên hơn dự kiến.
Sự việc này một lần nữa cho thấy sự phức tạp giữa tự động hóa và sự can thiệp của con người trong việc định hình cách các chatbot AI tạo sinh (được huấn luyện trên lượng dữ liệu khổng lồ) đưa ra câu trả lời.
Các phản hồi gây tranh cãi của Grok đã bị xóa và dường như đã dừng lại vào thứ Năm. Công ty xAI cho biết họ đã “điều tra kỹ lưỡng” và đang triển khai các biện pháp mới để tăng cường tính minh bạch và độ tin cậy của Grok. xAI dự định công khai các câu lệnh hệ thống (system prompts) của Grok trên GitHub để công chúng có thể đóng góp ý kiến và sẽ thiết lập thêm các lớp kiểm tra, giám sát để đảm bảo nhân viên không thể sửa đổi cài đặt mà không qua duyệt. Một đội ngũ giám sát làm việc 24/7 cũng sẽ được thành lập để ứng phó với các sự cố không được hệ thống tự động phát hiện.
Theo báo Seattle Times, Tổng Thống Donald Trump gần đây đã đưa một số ít người Nam Phi da trắng đến Mỹ dưới dạng tị nạn, khởi đầu cho một nỗ lực di dời lớn hơn cho nhóm thiểu số Afrikaner. Tổng Thống Donald Trump cáo buộc rằng người Afrikaner đang đối mặt với “diệt chủng” ở Nam Phi, điều mà chính phủ nước này bác bỏ mạnh mẽ. Grok trong các phản hồi của mình còn nhắc đến lời bài hát chống phân biệt chủng tộc cũ, mà ông Musk và những người khác cho rằng đang cổ súy giết người da trắng.
Giáo sư Golbeck bày tỏ lo ngại rằng các thuật toán AI có thể dễ dàng bị những người kiểm soát chúng thao túng để bóp méo sự thật, điều này đặc biệt nguy hiểm khi nhiều người tin rằng các thuật toán này là nguồn đánh giá đúng sai khách quan.
