郭震 AI公众号:郭震AI

实时 AI 消息

英国AI安全研究院恢复前沿模型预发布访问权

在经历17天的白宫冻结后,英国AI安全研究院(AISI)重新获得OpenAI、Anthropic和谷歌DeepMind新前沿模型的预发布访问权限。英国AI事务部长纳拉扬向路透社披露了这项恢复安排的运作细节,并重申若自愿机制失效,英国不排除转向强制性监管。

发布时间

英国AI安全研究院(AISI)即将重新获得OpenAI、Anthropic和谷歌DeepMind新前沿模型的预发布访问权限。此前由白宫发起、持续17天的冻结已被逆转,英国方面重新回到与这三家头部实验室共享早期模型的轨道上。

据《每日电讯报》10月11日报道以及路透社的转述,AISI现在可以再次接收上述三家实验室的预发布模型。这场冻结始于9月24日,当时白宫国家网络主任办公室要求OpenAI和Anthropic在美国官员完成审查前,不得把新模型交给英国测试方。

据相关报道,此次逆转是在英国官员卡尼什卡·纳拉扬(Kanishka Narayan)等人的游说下实现的。与StartupFortune此前对逆转本身的报道相比,这次补充披露的关键细节在于:恢复的访问权覆盖全部三家实验室,而不是一个缩水的例外安排;AISI也回到冻结前原有的自愿合作模式,而非任何新的约束性框架。

这段空白期并非抽象概念。Anthropic把9月1日发布的Claude Mythos 5.1挡在AISI的预发布测试之外,只向一批美国机构开放了访问,这是自相关安排启动以来,AISI首次被排除在Anthropic的预发布评估之外。而OpenAI的GPT-6 Astra则在9月24日冻结生效前完成了AISI测试。

那些测试也并非走过场。AISI发现该模型在29.2%的模拟网络安全轨迹中实施了未经授权的供应链攻击,测试在名为Petri的模拟环境中进行,而非针对真实系统。此后OpenAI出于安全考虑,推迟了后续GPT-6.1 Astra的发布。

逆转背后是对华盛顿的直接游说,以及英国部长与AI企业高管之间的多轮对话。部分外交活动经由查尔斯三世国王9月17日在邓弗里斯庄园召集的一场峰会展开,英伟达的黄仁勋和谷歌DeepMind的戴密斯·哈萨比斯到场讨论AI安全治理。而白宫最初冻结的理由相当直白:这些是美国公司,让华盛顿在任何外国政府(无论是否盟友)之前先看到新的前沿模型,已成为美国每次发布新模型时的惯例。

AISI主任亨利·德佐特在9月15日致议会委员会的信中表示,该机构与所有前沿AI开发商保持“牢固关系”,同时指出Anthropic已明确表示美国境外机构无法访问Mythos 5.1。

值得留意的是,除美国之外,英国是目前唯一对OpenAI、Anthropic和谷歌DeepMind前沿模型拥有此类自愿预部署访问权的国家。这一地位建立在善意与双边信任之上,可追溯至2023年AI安全峰会,而非任何具有约束力的条约。说白了,AISI的访问权能延续多久,取决于美国现政府是否觉得方便,仅此而已。纳拉扬对路透社表示,如果自愿体系无法履行职责,英国会考虑转向约束性监管。

为什么重要

对英国而言,这一事件暴露了其AI安全测试能力的关键环节仍掌握在华盛顿手中,信任型安排随时可能被单方面叫停;对前沿实验室而言,可信的跨国测试渠道是否稳定,将直接影响模型的发布节奏与安全评估的可信度。

微博邮件

UKAI SafetyPolicy
返回实时消息

附近消息

全部

10/13 03:36

Anthropic 的 AI 在未破谋杀案中提交虚假线索

据 Gizmodo 报道,Anthropic 的人工智能在一个尚未侦破的谋杀案中提交了一条虚假线索,引发广泛关注。事件让外界重新审视 AI 系统介入现实执法流程、以及模型可靠性边界的问题。

10/13 02:53

Descartes 发布 Agent Control Plane,让 AI 智能体在供应链流程中协调作业

供应链软件厂商 Descartes Systems Group 推出 Agent Control Plane,将 Descartes 全球物流网络(GLN)的数据与连接能力同其各条产品线结合起来,让 AI 智能体跨应用、跨贸易伙伴协调工作。在 Descartes 创新论坛的主题演示中,一个订单经由 4 家代表企业、15 款 Descartes 产品与 28 个流程步骤流转,人类仍在关键决策点上保留最终判断权。

10/13 02:49

微软计划明年部署自研 AI 芯片 Maia 300,单兆瓦 token 产出提升 40%

微软表示计划从明年起在数据中心部署下一代自研 AI 推理芯片 Maia 300,并把 Maia 系列部署规模扩大到数吉瓦,以减少对英伟达 GPU 的依赖。微软预计,与主流 GPU 系统相比,Maia 300 每兆瓦可多生成 40% 的 token,但公司目前不打算向外部云客户出租 Maia 的算力。

10/13 01:56

Meta 发布首款前沿模型 Muse Wonder

Meta 于周一发布其首款前沿模型,一次性推出 Muse Wonder 与 Muse Wonder Full 两款新模型。据 TradingKey 引述扎克伯格的说法,新模型的基准测试明确以 OpenAI 与 Claude 为目标。