Mô hình AI mới của OpenAI khiến chuyên gia an ninh lo ngại
Tóm tắt
Astra được OpenAI giới thiệu là mô hình AI mạnh nhất của hãng, nhưng kỹ thuật suy luận mới có thể khiến quá trình hoạt động của AI khó giám sát hơn.
Cập nhật: 15:47 04/09
Nội dung
OpenAI giới thiệu Astra là mô hình “thông minh nhất” và cũng “phù hợp với con người nhất” mà công ty từng phát triển. (Ảnh: gihyo).
Astra: Mô hình AI mới của OpenAI
- Astra ra mắt vào 3/9, đánh dấu mức “Critical” về năng lực an ninh mạng.
- Có khả năng phát triển phương thức khai thác lỗ hổng zero-day, hỗ trợ chuyên gia tìm và vá điểm yếu trước khi chúng bị lợi dụng.
Kỹ thuật suy luận lặp ẩn (opaque recurrence)
- Astra sử dụng kỹ thuật này để xử lý cùng một yêu cầu nhiều lần, giảm dấu vết dễ theo dõi.
- Gây lo ngại về khả năng giám sát AI: Buck Shlegeris cực kỳ lo ngại, Zvi Mowshowitz ví kỹ thuật này với “đùa với lửa”.
- Ryan Greenblatt lo lắng mô hình có thể thực hiện quá trình suy luận gần như hoàn toàn bên trong không gian ẩn.
Báo cáo từ nhà khoa học trưởng OpenAI
- Jakub Pachocki thừa nhận khó giám sát AI khi năng lực tăng lên, lượng thông tin quan sát giảm.
- Astra được cung cấp đầu tiên cho khách hàng sử dụng chương trình an ninh mạng Daybreak của OpenAI.
(Nguồn: VTCNews) - omBot tóm tắt
Các bài viết liên quan có thể bạn muốn đọc