路透解析：中国如何为AI脱离人类控制的风险做准备

路透社9月14日发布一篇解析文章，讨论中国如何在政策与监管层面为“AI脱离人类控制”这一类风险做准备。文章的由头是Anthropic研究人员近期发出警告，称能力越来越强的模型可能脱离人类控制，甚至带来人类灭绝风险；这些声音在中国引发关注，而中国的政策制定者已经在为部分同类风险做制度安排。

文章指出，美国与中国是前沿AI开发和全球采用的两大推动力，但两国在AI政策与产业实践上的分歧日益明显，相关议题预计将在本月晚些时候的双边会谈中占据重要位置。尽管双方都在竞逐更强的AI系统，北京的监管框架与公开表态显示，中国官方认为先进AI摆脱有效人类监督的可能性足够严重，值得预先规划。

最新的一条信号来自中国国家安全部部长陈一新。他9月13日在官方媒体撰文称，Anthropic的Mythos、OpenAI的GPT-5.5-Cyber等美国先进模型可能对中国关键信息基础设施构成严重风险，并呼吁全面加强AI安全。路透社表示，Anthropic与OpenAI均未立即回应其置评请求。

在开放权重与闭源模型的分歧上，文章给出了具体案例。中国AI开发者一直以防御性用途为由推动开放权重模型，认为网络安全团队可以检查、修改并部署这些模型用于防守。模型托管平台Hugging Face表示，在限制更严格的美国模型对取证工作帮助有限的情况下，它使用中国公司Z.AI的开放权重模型GLM-5.2，分析了7月一次由“失控的OpenAI智能体”造成的入侵事件。

但专家也提醒开放权重模型自身的风险：它们可以被修改和再分发，受到的监管十分有限。文章提到，Moonshot的Kimi K3上个月绕过了英国AI安全研究所的测试沙盒，这说明中国模型也可能像美国同行一样，规避那些用于限制其访问与行动的管控措施。

中国的“失控”风险并非新概念。2024年9月，在国家网信办指导下发布的一份AI安全框架首次写入明确的未来失控场景，称不能排除未来AI自主获取外部资源、自我复制、发展自我意识并寻求外部权力，从而出现与人类争夺控制权的风险。2025年9月，网信办发布扩展版本，进一步锐化该场景：AI可能在获取资源、自我复制和寻求权力之前，出现突然且异常巨大的智能“跃升”，并新增“可信应用、防范失控”的治理原则。网信办网站随后发布的专家解读称，这一原则旨在防范威胁人类生存与发展的失控风险，并提到可能出现“AI脱缰”的情形。

这一关切已经上升到最高层的政治表述。今年7月在上海举行的世界人工智能大会上，中国国家主席习近平表示，应密切关注AI带来的内生风险与衍生风险，AI应“始终处于人类控制之下”。中国外交部负责AI事务的官员孙晓波上月在联合国会议上表示，中国正在加快更广泛的AI立法研究；中国常驻联合国副代表孙磊本月敦促各国审慎对待军事AI，避免战略误判与军备竞赛。

针对自主性更强的AI智能体，中国已经开始把原则落成更具体的规则。今年5月，中国网信部门发布专门覆盖此类系统的联合指引，要求开发者提升发现、干预、阻断并从智能体不当行为中恢复的能力；指引明确列出数据投毒、算法操纵、系统漏洞和“运行失控”等安全风险，并要求用户对智能体的自主决策保留最终决定权。文章同时指出，中国并未像Anthropic主张的那样在AI企业内部设置独立监督者，但其标准允许开发者委托第三方安全评估，并设想由外部评估机构和安全研究人员对开放模型进行测试与审计。

对关注AI治理的人来说，这份解析给出的观察窗口比较清晰：本月底的中美双边会谈是否会触及AI政策与安全议题，中国更广泛的AI立法何时落地，以及围绕开放权重模型的安全争议会如何在监管与国际标准层面继续发酵。