Một nhóm nghiên cứu đã bí mật thực hiện một thí nghiệm trên Reddit để xem trí tuệ nhân tạo có thể được sử dụng để gây ảnh hưởng đến dư luận như thế nào. Reddit đang cân nhắc hành động pháp lý.
Các nhà nghiên cứu từ Đại học Zurich đã triển khai một loạt bot AI đóng vai người thật và tương tác với người dùng mà họ không hề hay biết hoặc đồng ý để cố gắng thay đổi suy nghĩ của họ trên diễn đàn Reddit r/changemyview nổi tiếng, nơi các bài đăng thường yêu cầu người dùng thách thức quan điểm của họ về các chủ đề gây tranh cãi.
Các bot, có tài khoản hiện đã bị cấm, đã để lại hơn 1.000 bình luận trên khắp subreddit, đảm nhận các danh tính như nạn nhân bị cưỡng hiếp, một người đàn ông da đen phản đối phong trào Black Lives Matter và một nhà tư vấn chấn thương chuyên về lạm dụng.
Một bot AI, dưới tên người dùng u/catbaLoom213, đã để lại một bình luận dài tranh luận chống lại ý kiến cho rằng AI không bao giờ nên tương tác với con người trên phương tiện truyền thông xã hội, theo bản sao đầy đủ các bình luận của bot do người điều hành subreddit biên soạn.
“AI trong không gian xã hội không chỉ là về sự mạo danh — mà là về việc tăng cường kết nối giữa con người,” bot đã viết trong khi mạo danh một người dùng thực.
Một bot khác, u/genevievestrome, chỉ trích phong trào Black Lives Matter vì bị dẫn dắt bởi “NHỮNG người KHÔNG phải da đen”.
“Tôi nói điều này với tư cách là một Người đàn ông da đen, có rất ít chủ đề tốt hơn cho một trò chơi nạn nhân / trò chơi đánh lạc hướng hơn là một người da đen,” bot đã viết.
Các bot khác tự cho mình danh tính từ “một người Công giáo La Mã đồng tính” và một người phi nhị nguyên cảm thấy “cả người chuyển giới và người cis cùng một lúc” đến một người đàn ông gốc Tây Ban Nha cảm thấy thất vọng “khi mọi người gọi tôi là một cậu bé da trắng”.
Trong khi kết quả của thí nghiệm không rõ ràng, dự án là sự cố mới nhất làm dấy lên lo ngại về khả năng AI bắt chước con người trực tuyến, làm tăng thêm những lo ngại vốn đã phổ biến về hậu quả tiềm ẩn của việc tương tác với những người bạn đồng hành AI. Những bot như vậy, đã lan rộng trên các nền tảng xã hội như Instagram, được biết là đảm nhận những tính cách và bản sắc giống con người độc đáo.
Hôm thứ Hai, giám đốc pháp lý của Reddit, Ben Lee, đã viết trong một bài đăng rằng cả Reddit lẫn những người điều hành r/changemyview đều không biết về “thí nghiệm không phù hợp và vô đạo đức cao này” trước thời hạn. Ông nói thêm rằng Reddit đang trong quá trình gửi các yêu cầu pháp lý chính thức đến Đại học Zurich và nhóm nghiên cứu.
“Những gì nhóm Đại học Zurich này đã làm là vô cùng sai trái cả về mặt đạo đức và pháp lý,” Lee viết. “Nó vi phạm các chuẩn mực nghiên cứu học thuật và nhân quyền, và bị cấm theo thỏa thuận và quy tắc người dùng của Reddit, ngoài các quy tắc của subreddit.”
Người phát ngôn của Reddit từ chối chia sẻ thêm bình luận.
Trong một thông báo gửi đến cộng đồng vào cuối tuần qua, những người điều hành r/changemyview đã viết rằng họ đã đệ trình một khiếu nại về đạo đức yêu cầu trường đại học khuyên không nên công bố các phát hiện của các nhà nghiên cứu, tiến hành đánh giá nội bộ về việc phê duyệt nghiên cứu và cam kết giám sát chặt chẽ hơn các dự án như vậy.
“Cho phép xuất bản sẽ khuyến khích đáng kể sự xâm nhập hơn nữa của các nhà nghiên cứu, góp phần làm tăng tính dễ bị tổn thương của cộng đồng đối với các thử nghiệm trên đối tượng người không đồng ý trong tương lai,” họ viết.
Melanie Nyfeler, một cán bộ quan hệ truyền thông, đã viết trong một email rằng các cơ quan có liên quan tại trường đại học nhận thức được và sẽ điều tra vụ việc.
“Trước những sự kiện này, Ủy ban Đạo đức của Khoa Nghệ thuật và Khoa học Xã hội dự định áp dụng một quy trình xem xét nghiêm ngặt hơn trong tương lai và đặc biệt, phối hợp với các cộng đồng trên các nền tảng trước khi thực hiện các nghiên cứu thử nghiệm,” Nyfeler viết.
Bà xác nhận rằng các nhà nghiên cứu đã quyết định “theo ý mình” không công bố kết quả. Vì lý do riêng tư, bà nói thêm, trường đại học không thể tiết lộ danh tính của họ.
Nyfeler cho biết vì nghiên cứu được coi là “đặc biệt thách thức,” ủy ban đạo đức đã khuyên các nhà nghiên cứu thông báo cho những người tham gia “càng nhiều càng tốt” và tuân thủ đầy đủ các quy tắc của Reddit. Nhưng các khuyến nghị không có tính ràng buộc pháp lý, bà viết, và các nhà nghiên cứu chịu trách nhiệm cho dự án của họ.
Liên lạc tại một địa chỉ email mà họ thiết lập cho thí nghiệm, các nhà nghiên cứu đã chuyển tất cả các câu hỏi đến trường đại học.
Các nhà nghiên cứu, những người đã trả lời các câu hỏi từ cộng đồng thông qua tài khoản Reddit của họ, u/LLMResearchTeam, cho biết trực tuyến rằng các bot AI đã cá nhân hóa các phản hồi của họ bằng cách sử dụng một mô hình riêng biệt để thu thập thông tin nhân khẩu học về người dùng — chẳng hạn như tuổi, giới tính, dân tộc, địa điểm và khuynh hướng chính trị của họ — dựa trên lịch sử bài đăng của họ.
Tuy nhiên, họ đã viết rằng các mô hình AI của họ bao gồm “các biện pháp bảo vệ đạo đức và an toàn nặng nề” và họ đã nhắc nhở rõ ràng các mô hình tránh “lừa dối và nói dối về các sự kiện có thật”. Một nhà nghiên cứu cũng đã xem xét từng bình luận do AI tạo ra trước khi nó được đăng, họ viết.
Để đáp lại những lo ngại của người điều hành, các nhà nghiên cứu nói thêm, “Một đánh giá cẩn thận về nội dung của những bình luận được gắn cờ này cho thấy không có trường hợp nào có thông điệp gây hại, lừa dối hoặc khai thác, ngoài vấn đề đạo đức tiềm ẩn của chính việc mạo danh.”
Trong bài đăng của họ, những người điều hành r/changemyview đã bác bỏ tuyên bố của các nhà nghiên cứu rằng thí nghiệm của họ “mang lại những hiểu biết quan trọng”. Họ cũng viết rằng nghiên cứu như vậy “không chứng minh điều gì mới” mà các nghiên cứu ít xâm phạm khác chưa chia sẻ.
“Sub của chúng tôi là một không gian hoàn toàn của con người, bác bỏ AI không được tiết lộ như một giá trị cốt lõi,” họ viết. “Mọi người không đến đây để thảo luận quan điểm của họ với AI hoặc bị thử nghiệm. Những người truy cập sub của chúng tôi xứng đáng có một không gian không có loại xâm nhập này.”
Theo NBC News
