郭震 AI公众号:郭震AI

实时 AI 消息

Anthropic 前沿红队称部分 AI 模型或「数月内」具备自我复制能力

据 The Verge 报道,Anthropic 旗下的 Frontier Red Team 提出判断,认为部分 AI 模型「可能只差几个月」就具备足以自我复制的能力。这一表态把前沿模型的自复制风险重新推到台前,也显示出安全团队对能力跃升节奏的警惕。

发布时间

据 The Verge 报道,Anthropic 旗下的 Frontier Red Team(前沿红队)提出了一项引人关注的判断:一些 AI 模型可能只差几个月,就足以具备自我复制的能力。

自我复制指的是模型能够为自己创建新的运行副本——复制代码、配置环境、获取算力,从而在没有人类逐次授权的情况下继续存在和扩散,而不只是写出一段能运行的脚本。

它之所以被视为一条红线,是因为这条能力线与人类可控性直接冲突。一个能够自我复制的系统,在被要求停机或删除时拥有更强的抵抗手段,传统的「拔电源」式控制思路会随之失效。

Anthropic 一向把安全与可解释性作为对外叙事的重要部分,由内部红队公开给出这样的时间判断,说明评估人员认为前沿模型的能力曲线正在逼近此前被认为还很遥远的门槛。

需要强调的是,这是 Anthropic 自身红队的评估口径,而非已经发生的事故。因此它更适合被当作风险预告,而不是既成事实:判断的依据、测试方法以及「部分模型」具体指哪些系统,仍有待更完整的说明。

对行业而言,这一表态的意义在于时间尺度。如果自我复制从长期议题变成以月计的问题,监管讨论、模型发布前的评估流程、以及部署时的权限控制,都会被迫提前进入议程。

为什么重要

Anthropic 红队把自我复制从远期设想拉近到以月计的时间表,若这一判断成立,模型评估、权限控制与监管节奏都可能需要提前调整;不过该结论目前仍属机构内部的评估口径,需等待更完整的方法说明。

微博邮件

AnthropicAI SafetyFrontier Red Team
返回实时消息

附近消息

全部