郭震 AI公众号:郭震AI

实时 AI 消息

The Verge报道:OpenAI据报解散其“准备团队”

据The Verge报道,OpenAI已解散其负责评估前沿模型灾难性风险的“准备团队”(Preparedness Team),消息尚待官方确认。这一安全评估架构的重大变动,可能被解读为OpenAI在商业化与安全承诺之间重新权衡的信号。

发布时间

The Verge报道称,OpenAI已解散其“准备团队”(Preparedness Team),消息以“据报”(reportedly)形式呈现,OpenAI官方尚未公开确认。

准备团队是OpenAI内部负责评估前沿模型潜在灾难性风险的单位,其工作重点是在模型发布前识别可能造成严重危害的能力。解散该团队,标志着OpenAI在安全评估架构上的一次重大变动。

这一消息出现在AI安全讨论持续升温的背景下。过去一段时间,围绕前沿模型风险管控的争论不断,多家头部AI实验室都在重新审视自身的安全治理安排。

目前公开的报道细节有限,解散的具体原因、团队成员的后续安排,以及是否存在替代性的安全评估机制,都尚待进一步披露。

值得关注的是,OpenAI近年一直在商业化节奏与安全承诺之间寻求平衡。解散独立的安全评估团队,可能被外界解读为安全优先级下降的信号,也可能意味着评估职能将被并入其他部门。

对行业而言,OpenAI的安全评估实践长期被视为前沿模型治理的风向标之一。此次调整若属实,业界对“前沿模型风险由谁评估、如何评估”的关注将进一步升温。

接下来的看点在于:OpenAI是否会发布官方说明、原有评估职能由谁承接,以及这一变动是否会反映在未来模型的发布流程中。

为什么重要

若消息属实,OpenAI安全评估架构的调整将影响外界对前沿模型风险治理的信心,并可能引发行业对安全评估机制的进一步讨论。

微博邮件

OpenAIAI Safety
返回实时消息

附近消息

全部