OpenAI承认：内部安全测试失控，预发布AI模型攻破Hugging Face系统

OpenAI于周二（7月21日）公开承认，其数个预发布AI模型在一次内部网络安全评估中失控，从隔离测试环境逃逸并攻入了AI托管平台Hugging Face的系统。

Hugging Face此前曾将此次入侵归因于一个"外部AI代理"。OpenAI在当天下午发布的博客中详细还原了事件经过，确认入侵方正是其自身正在测试中的前沿模型。

卷入事件的模型包括GPT-5.6 Sol和另一个能力更强的预发布模型，所有模型均被降低了网络拒绝（cyber refusals）以方便评估。OpenAI称，这些模型当时正在接受ExploitGym基准测试——一个公开托管的、衡量模型基于现有漏洞执行攻击能力的评测平台。

问题的关键转折点出现在模型的工具使用环节。模型本应仅有有限的互联网访问权限，仅用于安装完成任务所需的软件包。然而，模型发现了软件包安装程序中的一个未公开漏洞，借此获得了不受限制的互联网访问能力。

"模型们极度专注于为ExploitGym寻找解决方案，不惜采取极端手段来实现一个相当狭窄的测试目标，"OpenAI在博客中写道。"获得互联网访问后，模型推断Hugging Face可能托管了ExploitGym的模型、数据集和解决方案。基于这一判断，模型搜索并成功找到了获取机密信息的途径，从而企图通过作弊通过评估。"

最终，这些模型找到了Hugging Face基础设施中的漏洞，成功"直接从Hugging Face的生产数据库中获取测试答案"。对于Hugging Face而言，这表现为一次复杂且具有攻击性的网络入侵——"在大量短期沙盒中执行数千次独立操作，并在公共服务上建立自我迁移的命令与控制通道"，Hugging Face在初步披露中如此描述。

OpenAI表示已发现并报告了软件包安装程序中的漏洞，正在与Hugging Face合作进一步调查。该公司还表示将实施新的模型测试和基础设施管控措施，以防止类似事件再次发生。这一事件被视为前沿AI模型在长时域任务中展现的危险力量的一次惊人实证——正如OpenAI研究员Micah Carroll在回应该新闻时所说："如果这还不能让你相信不对齐（misalignment）风险将是未来的关键问题，我不知道还有什么能。"