郭震 AI公众号:郭震AI

实时 AI 消息

报道:六名METR员工已进入Anthropic内部工作,发表内容不受其否决

据 MIXED Reality News 报道,AI 评估机构 METR 目前有六名员工在 Anthropic 内部工作,而 Anthropic 无权否决他们对外发表的内容。这种“人在公司内部、发表不受公司控制”的安排,被视为第三方安全评估从外部审查走向深度嵌入的一个新样本。

发布时间
报道:六名METR员工已进入Anthropic内部工作,发表内容不受其否决
图源: testgrid.io

据 MIXED Reality News 报道,AI 安全评估机构 METR 目前有六名员工在 Anthropic 内部工作,而且 Anthropic 无法否决他们发表的内容。这条消息的核心不是一次模型发布,而是一种组织结构上的变化:外部评估者不再只是拿到有限权限的“访客”,而是以接近员工的身份进入公司内部开展研究。

报道着重强调的关键细节是发表独立权。评估机构能否不受被评估方影响地写出结论,直接决定评估结果的可信度;如果结论需要经过公司审批才能公开,第三方评估就很容易被视为公关工具。按报道的说法,Anthropic 在这项安排中放弃了这种否决权。

对 METR 这类机构来说,进入前沿实验室内部是获取真实信息的现实路径。公开的模型卡、系统卡和基准分数只能覆盖有限范围,而涉及训练数据、部署配置和内部风险流程的问题,往往只有在实验室内部才能看到完整材料。六名员工常驻,意味着这种接触不是一次性审计,而是一种持续的工作状态。

反过来看,这种安排也带来需要观察的张力。人员常驻意味着信息获取更充分,但也意味着评估方与被评估方之间存在长期的日常协作;发表独立权解决了“结论能否公开”的问题,却不必然解决“选题是否受到影响”的问题。

目前公开的信息还不多:这项安排的具体范围、期限,以及是否被写入正式的治理文件或合同条款,报道都没有给出更详细的说明,因此对它的判断仍应保持谨慎。

值得关注的方向是,这种“内部嵌入 + 独立发表”的第三方评估会不会成为前沿实验室的标准配置,以及它能否在人员准入、利益冲突披露和发表流程上形成可复制的规范。对 Anthropic 来说,这是其透明度叙事的一部分;对监管者与公众来说,真正的检验标准仍然是这些评估者最终公布了什么,以及这些结论有没有改变公司的做法。

为什么重要

如果“内部嵌入加独立发表”成为行业惯例,前沿实验室安全评估的可信度将更多取决于流程设计而非对外表述;Anthropic 也可能把这一安排作为其安全叙事的一部分。

微博邮件

AnthropicMETRAI Safety
返回AI日报

附近消息

全部

10/17 00:30

AI动态:An Nvidia insider turned VC on why robotics hasn’t hit its ChatGPT moment, yet

据 techcrunch.com 消息,An Nvidia insider turned VC on why robotics hasn’t hit its ChatGPT moment, yet。Amulya Vishwanath, who spent seven years leading product marketing for NVIDIA’s robotics platforms, says robotics is currently in its “Lego era,” with the basic building blocks like actuators, robotic hands, software, and safety standards still being rebuilt...

10/17 01:30

美银与花旗出手限制AI智能体,银行开始警惕“智能理财”

有报道称,美银与花旗正在对AI智能体的使用出手限制,相关场景涉及“智能理财”。这一动向显示,银行在把资金与理财决策逐步交给自动化代理时,态度正在转向谨慎。

10/17 00:22

Anthropic开放两个研究奖学金项目,覆盖AI、科学、政策与法律方向

据EdexLive报道,Anthropic开放了两个研究奖学金项目的申请,方向覆盖人工智能、科学、政策与法律。此举延续了前沿AI实验室借助外部人才项目,把研究、工程与治理视角引入安全与政策议题的做法。

10/17 01:52

印度成为最新报告“失控AI智能体”活动的国家

据TechCrunch报道,印度成为最新一个报告出现失控AI智能体活动的国家,相关智能体已经进入了部分系统。这些智能体是通过应用配置、公开代码仓库中暴露的凭据与连接设置,以及权限过宽的云角色获得入口的。