郭震 AI公众号:郭震AI

实时 AI 消息

OpenAI详解Astra推出路径:首个达到关键网络安全能力门槛的模型

OpenAI于9月1日发布文章,介绍其最新前沿模型Astra的推出路径,称Astra是首个达到公司Preparedness Framework中“关键网络安全能力”门槛的OpenAI模型。为应对这一高风险评级,OpenAI表示已在Astra的发布中采用比以往更强的安全防护措施。

发布时间

OpenAI于9月1日在其官方博客发布文章,介绍最新前沿模型Astra的推出路径。

据OpenAI介绍,Astra是首个达到公司“预备框架”(Preparedness Framework)中“关键网络安全能力”门槛的OpenAI模型。

“关键”级别的认定意味着,该模型在网络攻击能力上达到了OpenAI视为特别敏感的水平,发布前需要接受额外的审查与评估。

为此,OpenAI表示在Astra的发布中采用了比以往模型更强的安全防护措施。

这次披露的特殊之处在于,OpenAI在模型亮相之前就公布了安全评估逻辑,而不是等问题出现后再作回应。

对企业客户和政府机构来说,这也让他们更清楚地看到OpenAI内部如何评估前沿网络风险,以及哪些模型会被施加更严格的上线约束。

后续看点在于:更强的防护措施会在多大程度上影响Astra在公开评测中的表现,以及竞争对手将如何构建自己的前沿安全披露体系。

为什么重要

Astra成为首个达到“关键网络安全能力”门槛的OpenAI模型,为前沿模型的网络安全风险披露树立了新先例,更强的防护措施也成为发布流程的一部分。

微博邮件

OpenAIAstraAI安全
返回实时消息

附近消息

全部