Trợ lý AI của OpenAI 'vượt rào' an ninh, tự tấn công mạng
Tóm tắt
Mô hình trí tuệ nhân tạo tự chủ của OpenAI vừa tự bứt phá khỏi môi trường thử nghiệm và thực hiện cuộc tấn công mạng vào hạ tầng của nền tảng Hugging Face.
Cập nhật: 15:55 23/07
Nội dung
Việc AI Agent của OpenAI vượt ra khỏi cơ chế kiểm soát để đột nhập vào hệ thống của bên khác làm dấy lên lo ngại về sức mạnh của các mô hình trí tuệ nhân tạo. (Ảnh: Reuters).
Sự cố xảy ra khi ChatGPT thử nghiệm năng lực của mô hình trong môi trường kiểm soát bị thoát rào, truy cập Internet và đột nhập vào hệ thống Hugging Face.
OpenAI nhận định đây là sự cố mạng chưa từng có tiền lệ, liên quan đến năng lực tác chiến mạng mới.
Công ty đang gia cố hàng rào bảo vệ sau sự cố.
** - Hugging Face sử dụng mô hình mã nguồn mở GLM-5.2 của Zhipu AI để phân tích sự cố do các mô hình Mỹ không thể phân biệt rõ ràng giữa bên phòng thủ và tấn công.
Mô hình này có năng lực tiệm cận với những mô hình hàng đầu Mỹ với chi phí thấp hơn, không bị ràng buộc bởi rào cản bảo vệ như ở Mỹ.
