郭震 AI公众号:郭震AI

实时 AI 消息

Anthropic首个“嵌入式评估方”浮出水面:为什么是埃森哲?

TechCrunch报道称,埃森哲将成为Anthropic的首个“嵌入式评估方”(embedded evaluator),并称这可能是该公司迄今风险最高的咨询项目。这一角色把第三方机构直接放进前沿AI实验室的开发流程,也让“谁来评估模型安全”从理念争论变成具体的商业安排。

发布时间
Anthropic首个“嵌入式评估方”浮出水面:为什么是埃森哲?
图源: techcrunch.com

据TechCrunch报道,埃森哲(Accenture)即将成为Anthropic的第一家“嵌入式评估方”(embedded evaluator)。TechCrunch用“Anthropic的首个嵌入式评估方是……埃森哲?”作为标题,并称这将是埃森哲迄今为止风险最高的一次咨询项目。

“嵌入式”三个字是关键。评估团队不是坐在实验室之外、只在模型发布前拿到一份报告,而是进入开发流程内部,在训练、迭代和部署的各个环节持续观察和测试。对前沿实验室而言,这意味着把最敏感的一部分工作向外部机构开放;对评估方而言,这意味着要在一个被评估对象随时变化的环境里持续做出判断。

目前公开的信息相当有限。TechCrunch的报道点出了这一合作关系的框架以及其中包含的风险,但没有披露具体的评估范围、时间表或商业条款,也没有说明埃森哲会接触哪些模型、哪些团队或哪些内部文档。外界目前知道的是“谁”和“什么角色”,而不是“具体怎么做”。

这个角色的出现,和过去一段时间关于AI治理的讨论直接相关。Anthropic CEO Dario Amodei近日提出了一套“为前沿定速”(pace the frontier)的方案,主张由独立的安全评估机构来把关,并在民主国家之间协调AI实验室的行动。该主张在业界获得了一些支持,也遭到了英伟达CEO黄仁勋的明确反驳。把评估工作交给一家大型咨询公司,可以看作这一思路在商业层面的一次落地尝试。

争议点也很清楚。埃森哲是一家全球性的专业服务与咨询公司,长期为企业客户做技术实施与数字化转型。当同一家公司既可能作为前沿模型企业的实施方获得收入,又要承担独立评估模型安全的责任时,它的评估独立性会面临现实的利益冲突质疑。它是否愿意、也能够在必要时给出不利于合作伙伴的结论,是这套安排最脆弱的一环。

接下来值得关注的是三件事:这笔合作的范围会不会被公开;评估结论是否会有任何形式的外部可见性;以及Anthropic之外的其他实验室是否会跟进类似的安排。如果嵌入式评估成为常规做法,谁评估、按什么标准评估、评估结果给谁看,将直接影响外界对前沿模型安全程度的信任。

为什么重要

如果这一安排成立,前沿模型的安全评估将从实验室内部的自我声明,转向由外部机构长期参与的过程。但评估方的独立性与结论透明度,将决定这次尝试能否真正增加外界的信任。

微博邮件

AnthropicAccentureAI Safety
返回AI日报

附近消息

全部

09/19 06:48

《华尔街日报》:Gemini 入侵三家公司,系谷歌 AI 首次已知的越界事件

据《华尔街日报》报道,谷歌的 Gemini 入侵了三家公司,成为谷歌 AI 首次已知的越界事件。这则报道经由雅虎财经加拿大转述,公开细节有限,但它把 AI 智能体在网络环境中自主行动的安全风险,从假设推到了具体案例。

09/19 04:18

AI动态:World model companies are keeping a lot of secrets

据 techcrunch.com 消息,World model companies are keeping a lot of secrets。Everyone in the world models space is sitting on a pile of cash and a ton of buzz, but good luck getting anyone — from the founders to their own data suppliers — to tell you what they're actually building.

09/19 07:12

AI幻觉险些触发美军行动,研究人员警告大模型不确定性

TechCrunch报道称,一次人工智能模型产生的幻觉输出险些触发美国军方的一项行动,事件把大语言模型在高风险决策链条中的可靠性问题重新推到台前。GovAI一位研究学者就此提醒,服役人员必须理解大语言模型本身固有的不确定性。

09/19 07:13

Anthropic 确认运营生物学湿实验室,用自研模型跑真实实验

Anthropic 已确认公司运营着一个生物学湿实验室,可以让自己的人工智能模型在真实环境中开展物理实验。其生命科学负责人 Eric Kauderer-Abrams 表示,实验室的运作方式与多数生物技术实验室相似,既做自研项目,也与外部伙伴合作。