OpenAI đang tăng cường nỗ lực giải quyết vấn đề lạm dụng tình dục trẻ em (CSAM) bằng cách giới thiệu một công cụ AI mới có khả năng phát hiện các tài liệu bị nghi ngờ là CSAM, bao gồm cả nội dung được tạo ra bằng trí tuệ nhân tạo. Công ty cũng đang siết chặt các biện pháp đối với các nỗ lực tìm kiếm tài liệu lạm dụng thông qua ChatGPT, với các cảnh báo mới và đình chỉ tài khoản 24 giờ.
Công cụ phân loại mới của OpenAI có thể gắn cờ các trường hợp nghi ngờ lạm dụng ngay cả khi nội dung chưa từng được xác định trước đây, vì nó kiểm tra các dấu hiệu trực quan của CSAM thay vì dựa vào dấu vân tay kỹ thuật số (hash) như các hệ thống hiện có. Hệ thống này gán điểm cho các hình ảnh có khả năng lạm dụng để người xem xét có thể quyết định trường hợp nào cần ưu tiên. OpenAI cho biết họ đã phát triển công nghệ này với sự hỗ trợ của Trung tâm Quốc gia về Trẻ em Mất tích & Bị bóc lột (NCMEC) và cung cấp miễn phí cho các tổ chức đủ điều kiện thông qua API của họ.
Trong các thử nghiệm ban đầu, công cụ mới cho thấy khả năng phát hiện CSAM hiệu quả hơn, với các dấu hiệu sai sót ít hơn. Ngoài ra, OpenAI đang cập nhật ChatGPT với các cảnh báo mới giải thích lý do tại sao tài liệu lạm dụng tình dục trẻ em bị cấm và cho biết các hoạt động bị gắn cờ sẽ dẫn đến việc đình chỉ tài khoản 24 giờ. Các vi phạm lặp lại có thể dẫn đến các hạn chế dài hơn hoặc đóng tài khoản vĩnh viễn.
OpenAI cũng đang mở rộng hợp tác với các tổ chức điều tra nạn bóc lột trẻ em trực tuyến, bao gồm tham gia chương trình Lantern của Tech Coalition và cung cấp các công cụ AI chuyên dụng cho các đơn vị thực thi pháp luật. Công ty cũng xuất bản hướng dẫn để giúp các nhà phát triển phát hiện lạm dụng và thiết lập quy trình xem xét nội dung có hại.
Để giúp các gia đình giảm thiểu rủi ro và ứng phó với lạm dụng do AI tạo ra, các chuyên gia khuyên nên nói chuyện với trẻ về các bản chỉnh sửa giả mạo bằng AI, giải thích khả năng thao túng hình ảnh và khuyến khích trẻ báo cáo ngay lập tức nếu phát hiện hình ảnh giả mạo liên quan đến bản thân hoặc bạn bè. Ngoài ra, việc xem xét cài đặt quyền riêng tư trên mạng xã hội và nhắc nhở người thân hỏi trước khi đăng ảnh trẻ em cũng rất quan trọng.



