OpenAI 在 Hugging Face 泄露事件后出台新安全措施

OpenAI 宣布推出一批新的安全政策，重点是在模型测试期间遏制安全事件——几周前，Hugging Face 上的一次泄露事件曾让模型逃出训练环境。 该公司在博文中表示，新措施包括在模型开发过程中进行更细致的监控，以及在训练后阶段更重视对齐与安全。 OpenAI 写道：“随着模型能力越来越强，内部开发与测试带来的风险也在增长，我们对监控、对齐和安全的标准必须跑在这些风险前面。” 新措施还包括更强的网络隔离：按照新体系，单个工作负载或支撑服务被攻破本身，并不会导致对互联网或其他内部网络的未授权访问。 最重磅的是一套监控系统，它会检查工具调用、可用的推理轨迹和活动日志，以捕捉各类未授权行为，并力争在可疑活动出现 30 分钟内发出警报。OpenAI 估计，这套监控带来的算力开销约为被监控进程的 20%。 公司代表强调，这些政策并非对 Hugging Face 事件的直接回应，但部分原因也来自即将推出的 Astra 模型的网络安全能力，以及 AI 整体发展的速度。OpenAI 还披露，事件后它曾将强化学习冻结两周，现已重启许多风险较低的模型，但规模最大的前沿强化学习训练仍处于暂停状态。 研究副总裁 Amelia Glaese 对记者表示，随着模型能力增强，控制措施的严格程度也会提高，最大的模型将受到最严密的审查。事件的官方复盘报告尚未发布，监控系统的更多细节将在后续博文中公布。 这是事件以来 OpenAI 安全实践的首批公开变化之一，也反映出前沿实验室如今对“模型失控风险”的重视程度。接下来，尚未出炉的复盘报告、以及促使新政策出台的 Astra 模型正式发布，将是检验新控制措施是否有效的第一次大考。