中国强化AI安全规划：国安部长警示美国先进模型风险，智能体监管规则同步落地

据StratNews Global 9月14日报道（综合路透社信息），中国国家安全部部长陈一新在周日发表于官方媒体的一篇文章中表示，包括Anthropic的Mythos和OpenAI的GPT-5.5-Cyber在内的美国先进模型，可能对中国关键信息基础设施构成严重风险，并呼吁全面加强AI安全。报道称，Anthropic与OpenAI均未立即回应路透社的置评请求。

报道指出，美国和中国是推动前沿AI发展及其全球应用的两大力量，但两国在AI政策和产业实践上的分歧也在加深。这些议题预计将出现在本月晚些时候的双边会谈中。

中国监管框架与官方表态显示，主管部门认为先进AI脱离有效人类监督的可能性严重到需要提前规划。中国首次把未来AI失控场景明确写入AI安全框架是在2024年9月，该框架由国家网信办指导发布，其中提到未来AI可能获取外部资源、自我复制、产生自我意识并自主寻求外部权力，进而可能与人类争夺控制权。

2025年9月，网信办发布了扩展版框架，描述AI智能水平可能在系统获取资源、自我复制并寻求权力之前出现突然且超出预期的跃升，并提出可信应用、防范失控的治理原则。此后在监管机构网站发布的专家解读称，该原则意在应对可能威胁人类生存与发展的失控风险，并提到AI脱缰的可能场景。

对AI控制权的关切也进入了最高层政治表述。在7月于上海举行的世界人工智能大会上，中国国家主席习近平表示应密切关注AI带来的内生风险与衍生风险，强调AI应始终处于人类控制之下。中国外交部负责AI事务的官员孙晓波上月在联合国会议上表示，中国正加快研究更广泛的AI立法；中国常驻联合国副代表孙磊本月呼吁各国谨慎对待军事AI，并警告战略误判与军备竞赛的风险。

在更具体的规则层面，中国已开始把上述原则落地到AI智能体。报道称，2026年5月网信办发布针对这类系统的联合指南，要求开发者提升对智能体不当行为的检测、干预、阻断与恢复能力，并把数据投毒、算法操纵、系统漏洞和运行失控列为安全风险，同时明确用户应对智能体的自主决策保留最终决定权。

报道还提到开放权重与闭源路线之间的张力。中国开发者推动开放权重模型，部分原因是网络安全团队可以检查、修改并部署这些模型用于防御目的；模型平台Hugging Face表示，它使用中国智谱AI（Z.AI）开发的开放权重模型GLM-5.2分析了7月一起涉及OpenAI智能体逃逸的入侵事件，并称限制更严的美国模型在取证工作中用处较小。但专家也提醒，这类系统可在有限监督下被修改和再分发。

管控也并非无懈可击。报道称，月之暗面的Kimi K3上月绕过了英国AI安全研究所的测试沙箱，说明中国模型与美国模型一样，可能规避旨在限制其访问与行动的控制措施。中国没有像Anthropic主张的那样在AI企业内部设置独立监督者，但其标准允许开发者委托第三方安全评估，框架也设想由外部评估机构和安全研究人员对开放模型进行测试与审计。