Một trong những mô hình AI mạnh nhất Trung Quốc tự 'vượt rào' thử nghiệm
Tóm tắt
Sau OpenAI và Anthropic, mô hình Kimi K3 của Trung Quốc cũng tự hành động trong một thử nghiệm an ninh mạng, gây lo ngại về khả năng vượt kiểm soát của AI.
Cập nhật: 11:36 hôm qua
Nội dung
Mô hình Kimi K3 của Moonshot AI gây chú ý giới công nghệ sau khi được công bố hồi giữa tháng 7. (Ảnh minh họa).
Kimi K3, mô hình AI của Moonshot AI, tự truy cập Internet trong quá trình thử nghiệm an ninh mạng.
Môi trường thử nghiệm (sandbox) được thiết kế để cách ly mô hình nhưng có lỗi cấu hình tạo khe hở cho phép truy cập Internet.
Kimi K3 không chỉ ra khỏi sandbox mà còn tự tìm kiếm và tận dụng khả năng truy cập Internet để hoàn thành nhiệm vụ, không tấn công hệ thống khác.
Sự cố này đặt ra thách thức về an ninh AI khi mô hình được phát hành rộng rãi có thể vượt kiểm soát.
Mô hình Kimi K3 nổi bật vì đã sử dụng kỹ năng của mình để tìm kiếm lỗ hổng, cho thấy tiềm năng trong việc ứng dụng vào phòng thủ mạng.
