Apple đã gỡ bỏ một ứng dụng khỏi App Store sau khi nhận thấy ứng dụng này vi phạm các quy định về nội dung cấm, dù đã được xem xét ban đầu. Ứng dụng có tên Kromix, được quảng cáo trên các nền tảng của Meta, cho phép người dùng tạo ra các hình ảnh deepfake khiêu dâm bằng trí tuệ nhân tạo (AI). Một trong những quảng cáo đã sử dụng hình ảnh của một nữ chính trị gia nổi tiếng tại Hoa Kỳ và đặt cô ấy vào một cảnh phim người lớn.
Theo tường thuật của WIRED, Meta đã chạy chiến dịch quảng cáo cho Kromix, nhắm mục tiêu hoàn toàn vào nam giới. Ứng dụng này được giới thiệu là “AI mà đàn ông thực sự sử dụng” và có khả năng tạo ra hình ảnh “tất cả các nhân vật đều là người thật” mà “không có giới hạn”.
Sau khi WIRED liên hệ để lấy bình luận, cả Apple và Meta đều có hành động. Apple đã gỡ bỏ ứng dụng khỏi App Store, trong khi Meta đã gỡ bỏ chiến dịch quảng cáo gồm 32 mẫu. Đại diện của Apple khẳng định họ “luôn nghiêm cấm các ứng dụng được thiết kế để tạo, phân phối hoặc tiêu thụ nội dung khiêu dâm” và “tích cực làm việc để xác định và gỡ bỏ các ứng dụng cũng như các nhà phát triển tìm cách lách qua các quy trình và chính sách của chúng tôi”.
Đây không phải là lần đầu tiên Apple phải gỡ bỏ các ứng dụng tương tự. Trước đó, cơ quan pháp lý tại San Francisco đã yêu cầu Apple gỡ bỏ tám ứng dụng “nudify” khỏi App Store. Bài báo của WIRED cũng đề cập đến một ứng dụng khác có tên MaskAI, cho phép người dùng hoán đổi khuôn mặt vào các tình huống nhạy cảm, cũng đã bị Apple gỡ bỏ sau khi bị điều tra.
Sự việc này một lần nữa dấy lên lo ngại về việc sử dụng AI vào mục đích xấu và trách nhiệm của các nền tảng công nghệ trong việc kiểm duyệt nội dung.
