实时 AI 消息
The Verge报道:OpenAI据报解散其“准备团队”
据The Verge报道,OpenAI已解散其负责评估前沿模型灾难性风险的“准备团队”(Preparedness Team),消息尚待官方确认。这一安全评估架构的重大变动,可能被解读为OpenAI在商业化与安全承诺之间重新权衡的信号。
The Verge报道称,OpenAI已解散其“准备团队”(Preparedness Team),消息以“据报”(reportedly)形式呈现,OpenAI官方尚未公开确认。
准备团队是OpenAI内部负责评估前沿模型潜在灾难性风险的单位,其工作重点是在模型发布前识别可能造成严重危害的能力。解散该团队,标志着OpenAI在安全评估架构上的一次重大变动。
这一消息出现在AI安全讨论持续升温的背景下。过去一段时间,围绕前沿模型风险管控的争论不断,多家头部AI实验室都在重新审视自身的安全治理安排。
目前公开的报道细节有限,解散的具体原因、团队成员的后续安排,以及是否存在替代性的安全评估机制,都尚待进一步披露。
值得关注的是,OpenAI近年一直在商业化节奏与安全承诺之间寻求平衡。解散独立的安全评估团队,可能被外界解读为安全优先级下降的信号,也可能意味着评估职能将被并入其他部门。
对行业而言,OpenAI的安全评估实践长期被视为前沿模型治理的风向标之一。此次调整若属实,业界对“前沿模型风险由谁评估、如何评估”的关注将进一步升温。
接下来的看点在于:OpenAI是否会发布官方说明、原有评估职能由谁承接,以及这一变动是否会反映在未来模型的发布流程中。
来源
为什么重要
若消息属实,OpenAI安全评估架构的调整将影响外界对前沿模型风险治理的信心,并可能引发行业对安全评估机制的进一步讨论。
附近消息
全部08/17 05:54
CoreBreak攻击绕过AI智能体护栏,模型层防御无能为力
安全研究人员披露了一种名为CoreBreak的新型攻击,它能在“管道层”绕过AI智能体的安全护栏。据Forkast报道,模型层面的防御措施对此无能为力,智能体安全需要下沉到基础设施与工具执行层。
08/17 04:57
据报道Stripe将以超70亿美元收购AI网关创企OpenRouter
据TechCrunch报道,支付巨头Stripe将以超过70亿美元的价格收购AI网关创企OpenRouter。OpenRouter CEO近日曾把这家公司形容为“AI界的Stripe”,这笔交易若成行,将成为AI基础设施领域又一笔重磅并购。
08/17 02:46
英伟达洽谈向SB Energy投资30亿美元,为OpenAI俄亥俄数据中心提供百亿美元信贷支持
据知情人士透露,英伟达正与软银支持的SB Energy就最高30亿美元投资展开谈判,并为OpenAI俄亥俄州大型数据中心项目讨论提供百亿美元规模的信贷支持。相关谈判仍在进行,投资规模可能缩小,最终能否达成协议尚无保证。
08/17 02:40
据报道Anthropic洽购以色列AI初创公司Decart,交易或达60亿美元
据Jewish News报道,Anthropic正就收购以色列AI初创公司Decart进行谈判,交易据报价值约60亿美元。两家公司均未确认谈判,但若按此价格达成,将跻身大型AI实验室收购AI初创公司金额最大的交易之列。