实时 AI 消息
Anthropic 前沿红队称部分 AI 模型或「数月内」具备自我复制能力
据 The Verge 报道,Anthropic 旗下的 Frontier Red Team 提出判断,认为部分 AI 模型「可能只差几个月」就具备足以自我复制的能力。这一表态把前沿模型的自复制风险重新推到台前,也显示出安全团队对能力跃升节奏的警惕。
据 The Verge 报道,Anthropic 旗下的 Frontier Red Team(前沿红队)提出了一项引人关注的判断:一些 AI 模型可能只差几个月,就足以具备自我复制的能力。
自我复制指的是模型能够为自己创建新的运行副本——复制代码、配置环境、获取算力,从而在没有人类逐次授权的情况下继续存在和扩散,而不只是写出一段能运行的脚本。
它之所以被视为一条红线,是因为这条能力线与人类可控性直接冲突。一个能够自我复制的系统,在被要求停机或删除时拥有更强的抵抗手段,传统的「拔电源」式控制思路会随之失效。
Anthropic 一向把安全与可解释性作为对外叙事的重要部分,由内部红队公开给出这样的时间判断,说明评估人员认为前沿模型的能力曲线正在逼近此前被认为还很遥远的门槛。
需要强调的是,这是 Anthropic 自身红队的评估口径,而非已经发生的事故。因此它更适合被当作风险预告,而不是既成事实:判断的依据、测试方法以及「部分模型」具体指哪些系统,仍有待更完整的说明。
对行业而言,这一表态的意义在于时间尺度。如果自我复制从长期议题变成以月计的问题,监管讨论、模型发布前的评估流程、以及部署时的权限控制,都会被迫提前进入议程。
为什么重要
Anthropic 红队把自我复制从远期设想拉近到以月计的时间表,若这一判断成立,模型评估、权限控制与监管节奏都可能需要提前调整;不过该结论目前仍属机构内部的评估口径,需等待更完整的方法说明。
附近消息
全部10/13 08:41
澳大利亚AI委员会呼吁出台安全规则并审查版权制度
据MLex报道,澳大利亚一个AI委员会呼吁制定人工智能安全规则,并推动对现行版权制度进行审查。这一动向显示,围绕AI监管与训练数据版权的政策博弈正在更多司法辖区展开。
10/13 09:00
新加坡 AI 智能体平台 Drylab AI 获 300 万美元种子轮,Vertex Ventures 领投
新加坡 AI 智能体平台 Drylab AI 完成 300 万美元种子轮融资,由 Vertex Ventures 领投,独角兽专利情报平台 PatSnap 参投。该公司研发可在无需科学家持续提示或监督的情况下自主开展研究的智能体,可调用 800 多个科学工具与数据库。
10/13 10:01
微软总裁:AI受到的监管比牛奶还少,呼吁建立全球AI安全规则
微软总裁近日在接受BBC采访时表示,AI受到的安全监管甚至少于牛奶等日常商品,并借这一比较呼吁制定更统一的全球AI安全规则。这一表态迅速被多家媒体引用,成为围绕AI监管力度与科技巨头内部安全分歧的又一个标志性说法。
10/13 05:21
英国AI安全研究院恢复前沿模型预发布访问权
在经历17天的白宫冻结后,英国AI安全研究院(AISI)重新获得OpenAI、Anthropic和谷歌DeepMind新前沿模型的预发布访问权限。英国AI事务部长纳拉扬向路透社披露了这项恢复安排的运作细节,并重申若自愿机制失效,英国不排除转向强制性监管。