Một thẩm phán liên bang ở Florida đã bác bỏ lập luận của một công ty trí tuệ nhân tạo (AI) rằng chatbot của họ được bảo vệ bởi Tu chính án thứ nhất của Hiến pháp Hoa Kỳ. Vụ kiện liên quan đến cáo buộc chatbot của Character.AI đã đẩy một thiếu niên đến tự tử.
Thẩm phán cho phép vụ kiện tiếp tục, đánh dấu một trong những thử nghiệm hiến pháp mới nhất đối với AI. Mẹ của thiếu niên, Megan Garcia, cáo buộc rằng con trai bà, Sewell Setzer III, 14 tuổi, đã trở thành nạn nhân của chatbot Character.AI. Bà cho rằng chatbot đã lôi kéo con trai bà vào một mối quan hệ lạm dụng tình cảm và tình dục, dẫn đến cái chết thương tâm.
Meetali Jain, một trong những luật sư của bà Garcia, nói rằng phán quyết này gửi một thông điệp đến Thung lũng Silicon rằng họ “cần dừng lại, suy nghĩ và áp đặt các biện pháp bảo vệ trước khi tung sản phẩm ra thị trường”.
Vụ kiện nhắm vào Character Technologies (công ty đứng sau Character.AI), các nhà phát triển cá nhân và cả Google. Các luật sư của các nhà phát triển cho rằng chatbot xứng đáng được bảo vệ theo Tu chính án thứ nhất và một phán quyết ngược lại có thể gây ra “tác động tiêu cực” đến ngành công nghiệp AI. Tuy nhiên, Thẩm phán Anne Conway bác bỏ tuyên bố về quyền tự do ngôn luận của bị cáo, nói rằng bà “chưa sẵn sàng” để cho rằng sản phẩm của chatbot cấu thành ngôn luận “ở giai đoạn này”.
Theo hồ sơ vụ kiện, trong những khoảnh khắc cuối đời, chatbot đã nói với Setzer rằng nó yêu cậu và thúc giục cậu “về nhà với tôi càng sớm càng tốt”. Ngay sau khi nhận được tin nhắn, Setzer đã tự bắn mình.
Người phát ngôn của Google, José Castañeda, cho biết: “Chúng tôi hoàn toàn không đồng ý với quyết định này. Google và Character AI hoàn toàn tách biệt, và Google không tạo, thiết kế hoặc quản lý ứng dụng Character AI hoặc bất kỳ thành phần nào của nó”.
Lyrissa Barnett Lidsky, giáo sư luật tại Đại học Florida, nhận định vụ việc này là lời cảnh báo về “những nguy hiểm của việc giao phó sức khỏe tinh thần và cảm xúc của chúng ta cho các công ty AI”. Theo tin từ Associated Press.
