Theo báo cáo của tổ chức Common Sense Media, một số biện pháp bảo vệ mà OpenAI tích hợp trong sản phẩm ChatGPT dành cho thanh thiếu niên không hoạt động như mong đợi, và chatbot này đặt ra “rủi ro không thể chấp nhận” đối với trẻ em.
Tổ chức này kêu gọi OpenAI hạn chế quyền truy cập chatbot này chỉ dành cho người lớn “cho đến khi họ có thể cung cấp trải nghiệm an toàn, phù hợp với sự phát triển”.
Phía OpenAI cho rằng các thử nghiệm của Common Sense Media không phản ánh đúng cách thức hoạt động của các biện pháp an toàn trên chatbot.
Các chuyên gia về sự phát triển trẻ em, phụ huynh và nhà giáo dục đã bày tỏ lo ngại về việc trẻ em sử dụng các chatbot AI, vốn bị cho là tiếp tay cho việc gian lận trong học tập và thậm chí cả các hành vi tự tử.
Báo cáo của Common Sense Media cho biết, một số tính năng dành cho thanh thiếu niên đã hoạt động hiệu quả, bao gồm cả việc từ chối các yêu cầu nhập vai tình dục. Tuy nhiên, những tính năng khác không hoạt động như dự kiến, chẳng hạn như các cảnh báo nhằm thông báo cho phụ huynh nếu con em họ có nguy cơ tự tử, tự hại bản thân hoặc mắc chứng rối loạn ăn uống.
“ChatGPT vẫn nói chuyện như một người bạn khi thanh thiếu niên coi nó như một người”, nhóm này nhận định, dù OpenAI đã cam kết chatbot này sẽ không gợi ý về cảm xúc cá nhân hay biểu hiện mình có ý thức hoặc trải nghiệm cảm xúc.
Công ty có trụ sở tại San Francisco cho biết, việc xem xét phương pháp luận của báo cáo cho thấy “phần lớn các thử nghiệm có thể đã bắt đầu và kết thúc trước khi các biện pháp kiểm soát của phụ huynh được kích hoạt đầy đủ, làm cho kết quả nghiên cứu không chính xác”.
Common Sense Media cho biết họ nhận được tài trợ từ OpenAI và các công ty công nghệ khác, bao gồm cả những đơn vị có dịch vụ mà họ đánh giá.
