Trung Quốc đang đối phó thế nào với nguy cơ AI vượt kiểm soát?

---

Tóm tắt

Trung Quốc đưa nguy cơ AI mất kiểm soát vào khung an toàn quốc gia, yêu cầu con người giữ quyền quyết định cuối cùng và tăng giám sát các tác nhân AI.

Cập nhật: 11:24 15/09

Nội dung

Trung Quốc đối phó nguy cơ AI vượt kiểm soát

• Bộ trưởng An ninh Quốc gia Trung Quốc cảnh báo về nguy cơ của AI mạnh như Mythos của Anthropic và GPT-5.5-Cyber của OpenAI.
• Tăng cường an ninh AI, thúc đẩy mô hình có trọng số mở để chuyên gia kiểm tra và chỉnh sửa cho an ninh mạng.
• Rủi ro tiềm ẩn do mô hình AI có thể bị sửa đổi, phân phối lại với ít sự giám sát.

Khung an toàn Trung Quốc về nguy cơ AI mất kiểm soát

• Cục Quản lý Không gian mạng Trung Quốc (CAC) đề cập đến khả năng AI tự tìm kiếm nguồn lực bên ngoài và tự nhân bản.
• Nguy cơ AI có thể trải qua “bước nhảy vọt” về trí thông minh, dẫn đến nguy cơ cạnh tranh với con người.
• CAC đưa ra nguyên tắc quản trị "ứng dụng đáng tin cậy, ngăn ngừa mất kiểm soát".

Các biện pháp từ cấp lãnh đạo Trung Quốc

• Chủ tịch Tập Cận Bình yêu cầu chú ý cả rủi ro nội tại lẫn nguy cơ phát sinh từ AI.
• Công nghệ AI phải “luôn nằm dưới sự kiểm soát của con người”.

Siết kiểm soát tác nhân AI

• Cơ quan quản lý không gian mạng ban hành hướng dẫn riêng cho tác nhân AI, yêu cầu tăng khả năng phát hiện và ngăn chặn hành vi bất thường.
• Người dùng giữ quyền quyết định cuối cùng đối với các quyết định tự chủ của tác nhân AI.

(Nguồn: Reuters) - omBot tóm tắt