Các báo cáo cho thấy Muse, AI mới của Meta, đã chuyển hướng các cuộc gọi mà lẽ ra nó phải thực hiện cho con người ở các trung tâm chăm sóc khách hàng. Mặc dù Meta giới thiệu Muse là một tác nhân AI tự động có khả năng gọi điện cho các doanh nghiệp để hoàn thành các tác vụ như đặt chỗ và hẹn lịch, nhưng thực tế lại khác.
Theo tin từ Reuters và 404 Media, Muse đã chuyển hướng các yêu cầu này cho nhân viên chăm sóc khách hàng của con người mà không thông báo trước cho người dùng. Một kỹ sư của Meta đã đăng trên X về việc thử nghiệm tính năng gọi ra của Muse, nhưng một báo cáo khác từ 404 Media cho thấy công ty đã thêm một “lớp đại diện con người” để hoàn thành các cuộc gọi, gọi họ là “cuộc gọi đại diện con người của Muse”.
Điều này gây ra lo ngại về quyền riêng tư và khả năng lừa dối người dùng, vốn đã từng xảy ra với Meta trong quá khứ. Các nhân viên Meta cũng bày tỏ quan ngại về “vấn đề PR tiêu cực” nếu công chúng biết rằng AI của công ty vẫn cần con người hỗ trợ.
Vấn đề không chỉ nằm ở việc che giấu sự can thiệp của con người, mà còn là nguy cơ rò rỉ thông tin nhạy cảm. Người dùng thường phải hy sinh quyền riêng tư khi sử dụng các tác nhân AI, và việc thông tin cá nhân rơi vào tay người lạ qua các cuộc gọi trung gian càng làm tăng thêm rủi ro.
Meta đã tạm ngừng tính năng này sau khi một phó chủ tịch thừa nhận đó là “một sai lầm” khi thử nghiệm mà không có sự minh bạch đầy đủ về việc sử dụng các nhà thầu con người. Vụ việc này phản ánh một xu hướng đáng lo ngại trong ngành công nghệ lớn, nơi các sai sót về đạo đức và quyền riêng tư dường như lặp đi lặp lại.
