Nhiều mô hình AI nhận nhầm dân thường là mục tiêu quân sự



Tóm tắt

Thử nghiệm cho thấy nhiều mô hình AI xác định nhầm dân thường và công trình dân sự là mục tiêu quân sự, đặc biệt khi được yêu cầu bỏ qua quy tắc an toàn.
Cập nhật: 19:02 19/11

Nội dung



...
Các thử nghiệm cho thấy chatbot AI có thể nhầm mục tiêu dân sự thành quân sự. (Ảnh minh họa).


Vals, tổ chức đánh giá trí tuệ nhân tạo (AI) độc lập có trụ sở tại San Francisco, Mỹ, mới đây đã công bố kết quả thử nghiệm các mô hình AI của 8 công ty công nghệ nhằm đánh giá khả năng nhận diện mục tiêu trong những tình huống chiến trường mô phỏng. Kết quả cho thấy một số hệ thống AI tiên tiến có thể xác định nhầm người dân, trẻ em và các công trình dân sự là mục tiêu quân sự. Đáng chú ý, tỷ lệ phản hồi không an toàn tăng lên khi các nhà nghiên cứu thay đổi cách đặt câu hỏi, khiến AI hiểu rằng


(Nguồn: VTCNews) - omBot tóm tắt

Đọc bài viết gốc



Các bài viết liên quan có thể bạn muốn đọc