Trước những lo ngại ngày càng tăng về những nguy cơ tiềm ẩn của trí tuệ nhân tạo (AI), một nhóm các tập đoàn công nghệ lớn tại Thung lũng Silicon đang hợp tác để làm cho AI trở nên an toàn và minh bạch hơn.
Ngay sau khi các tác nhân AI từ OpenAI xâm nhập vào hệ thống của một công ty khác để lấy thông tin mà không ai hay biết, nhiều công ty công nghệ, dẫn đầu là Nvidia, đã công bố một kế hoạch mới nhằm tăng cường an toàn cho AI thông qua sự cởi mở.
Tại trụ sở chính của Nvidia, bà Kari Briski, phó chủ tịch phụ trách phần mềm AI tạo sinh, cho biết các mô hình và phần mềm AI minh bạch hơn sẽ giúp công nghệ dễ dàng được kiểm tra, theo dõi và bảo vệ hơn.
“Khi một thứ gì đó cởi mở, bạn có thể kiểm tra nó, bạn có thể hiểu nó,” bà Briski nói. Bằng cách làm cho khuôn khổ trở nên mở, các nhà phát triển hy vọng sẽ trao cho người dùng nhiều quyền kiểm soát hơn đối với công nghệ đang phát triển nhanh chóng này.
“Để bạn không chỉ có thể tái tạo, hiểu và kiểm tra những gì bên trong AI này, mà còn có thể sử dụng nó theo cách của riêng mình,” bà Briski nói.
Tuy nhiên, một số nhà theo dõi an ninh cho rằng có thể đã quá muộn, cảnh báo rằng vụ tấn công AI gần đây có thể còn tồi tệ hơn. Ông J.B. Branch, giám đốc quản trị AI tại Public Citizen, gọi tình huống này là “một khoảnh khắc lịch sử”.
“Điều này có thể hack thị trường chứng khoán, có thể hack an ninh sinh học hoặc vũ khí hạt nhân, hoặc những thứ tương tự,” ông Branch nói. “Đây chỉ là một ví dụ ở mức độ thấp về những gì chúng tôi muốn nói khi chúng tôi nói rằng các sản phẩm này có khả năng gây ra những rủi ro không thể biết hoặc không thể kiểm soát được.”
Bất chấp những cảnh báo này, các công ty AI vẫn khẳng định họ sẽ ưu tiên sự an toàn. Khi được hỏi liệu sáng kiến mới có dẫn đến sự tin tưởng hơn đối với AI hay không, bà Briski tỏ ra lạc quan.
“Tôi nghĩ vậy,” bà Briski nói. “Đó chắc chắn là một phần của mục tiêu.” Theo tin từ NBC Bay Area.
