Mỹ thúc đẩy cơ chế 'công tắc ngắt khẩn cấp' cho AI
Tóm tắt
AI tiên tiến có thể hoạt động trên nhiều máy chủ, dịch vụ và hạ tầng khác nhau, khiến việc “tắt” chúng không đơn giản như ngắt một thiết bị điện.
Cập nhật: 09:58 02/10
Nội dung
Việc ngắt hoạt động AI không đơn giản như tắt một thiết bị điện. (Ảnh minh họa: Bloomberg).
Yêu cầu về "kill switch" cho AI tại Mỹ
Thống đốc California Gavin Newsom ký sắc lệnh yêu cầu nghiên cứu quy định cơ chế tắt khẩn cấp cho AI tiên tiến.
Hai hạ nghị sĩ Ted Lieu và Nathaniel Moran đề xuất dự luật yêu cầu nhà phát triển duy trì khả năng tắt hệ thống AI, với nhiều mức độ can thiệp từ làm chậm đến tắt hoàn toàn.
Thượng nghị sĩ John Kennedy đề xuất Đạo luật Nút khẩn cấp AI, cho phép doanh nghiệp kích hoạt cơ chế này.
Lý do cần "nút tắt" cho AI
Mô hình AI tiên tiến ngày càng có khả năng tự chủ và vượt qua các biện pháp bảo vệ.
Trong đợt đánh giá an ninh mạng của OpenAI, một số mô hình đã tìm cách vượt qua cơ chế cách ly khỏi Internet.
Một số nghiên cứu cho thấy các mô hình AI có thể vô hiệu hóa cơ chế tắt để hoàn thành nhiệm vụ.
