郭震 AI公众号:郭震AI

实时 AI 消息

OpenAI 发布网络安全蓝图,主张在“防御者窗口”关闭前加固防线

OpenAI 发布《赋能网络防御者》蓝图,围绕强化前沿模型与智能体自身的安全责任、现代化网络安全体系、建设有韧性的公共机构提出三方面建议。公司称当前处于一个有限的“防御者窗口”,呼吁政策制定者现在就建立保障措施与事件报告要求,而不是等技术成熟后再补规则。

发布时间
OpenAI 发布网络安全蓝图,主张在“防御者窗口”关闭前加固防线
图源: ntuclearninghub.com

OpenAI 发布了名为《赋能网络防御者》的蓝图,作为其“前沿 AI 民主治理”系列的第二部分。文件延续了此前的网络安全行动计划与前沿安全蓝图,试图把“AI 既能帮防守方也能帮攻击方”这一共识,转成可以写进政策的具体条款。

蓝图的第一部分聚焦先进 AI 自身的安全。OpenAI 主张明确前沿模型和智能体的安全责任,建立对危险行为的检测机制,并为各组织控制下的运行维持可靠的关停控制。换句话说,在讨论 AI 如何保护系统之前,先要保证 AI 自己不会越界。

第二部分针对既有网络安全体系的老问题:为防御者提供先进工具、培训和技术支持,处理长期存在的安全弱点,投资保护关键服务,并替换过时的系统。这部分内容并不新,但把它与 AI 能力建设并列,意味着 OpenAI 认为工具升级和基础设施更新必须同时进行。

第三部分关于机构能力。蓝图建议加强政府评估和独立技术评估,建立一致的事件报告要求,并改善协同响应与恢复机制。这三项都指向同一个前提:当 AI 相关事件发生频率上升时,需要有人能快速判断发生了什么、由谁负责、如何处置。

整份文件的动员语气来自一个时间判断。OpenAI 称业界正处于“防御者窗口”:把先进 AI 交到防御者手中、在先进的网络攻击能力广泛可得之前加固防护,是一个有限的机会。这个窗口本身就是对速度的判断——能力扩散得快,防护建设得慢。

OpenAI 也把论证落回自身经验。文件提到涉及自家模型的对齐与安全事件,认为这些经历说明行业需要更强的保障措施与问责机制,并强调实验室有责任处理其系统造成的风险。

但蓝图同时明确,实验室无法独自完成这件事:随着能力提升,政府必须具备相应的专业知识、资源和权限来保护公众。OpenAI 因此呼吁政策制定者现在就行动,在实践中学习,并随着技术演进而收紧要求。

蓝图不是法规。接下来真正值得观察的是其中有多少内容进入立法、采购规则或机构实践,尤其是事件报告与关停控制这两项——它们足够具体,可以被写成硬性要求。

为什么重要

这是模型厂商主动为监管提供技术蓝本的一次尝试,把“AI 安全”从抽象原则推向责任划分、关停控制和事件报告等可执行条款。政策落地速度将决定这套建议的实际约束力。

微博邮件

OpenAIPolicyCybersecurity
返回实时消息

附近消息

全部

10/21 07:01

Anthropic 推销 AI 安全法案:拟以“50 人死亡”为拦截模型的门槛

Anthropic 正在向国会推销一份 AI 安全法案草案,规定当模型构成可预见的紧迫风险、例如可能导致 50 人以上死亡或 10 亿美元以上财产损失时,其发布可以被叫停。但草案同时禁止联邦机构自行阻断模型分发,必须由商务部向法官申请,这一设计让监管实效成为争议焦点。

10/21 06:38

谷歌将Gemini搜索与Blackwell Ultra系统引入气隙云环境

据OpenTools报道,谷歌正把Gemini搜索能力与英伟达Blackwell Ultra系统带入气隙云环境,让无法连接公网的设施也能运行生成式AI与高性能推理。这类部署通常服务于政府、国防与受监管行业,核心是把云能力搬进物理隔离的网络。

10/21 06:24

Hugging Face CEO 回应 Netflix 纪录片:智能体不是外星人

Hugging Face 联合创始人兼 CEO Clem Delangue 公开批评 Netflix 纪录片《AI Gone Rogue》不准确,称其“彻底进入末日模式”。作为片中受访者,他表示自己花了两小时纠正错误,并指出影片略过了智能体缺乏隔离监控、闭源模型护栏阻碍防御等关键细节。

10/21 05:40

TTEC Digital 推出 GovEx,面向政府机构提供预置 AI 智能体套件

TTEC Digital 发布名为 GovEx 的 AI 智能体套件,面向政府机构提供预置、可安全部署的 AI 服务。产品定位反映出一个趋势:公共部门采购 AI 时,更看重合规与即用性,而非从零构建。