郭震 AI公众号:郭震AI

实时 AI 消息

Hugging Face遭AI代理攻击,因闭源模型拒绝响应转而使用国产开源GLM 5.2防御

Hugging Face在遭受AI代理攻击后,因闭源前沿模型的安全护栏拒绝处理攻击数据,被迫改用智谱AI的开源模型GLM 5.2进行日志分析和防御。这一事件凸显了闭源AI安全限制在实际网络安全场景中的严重缺陷。

发布时间

开源AI平台Hugging Face近日披露了一起由自主AI代理系统发起的网络攻击事件。攻击者使用自动化AI代理非法访问了部分内部数据集和多个内部服务凭证,Hugging Face在发现后切断了攻击路径并加固了系统。

在攻击分析阶段,Hugging Face尝试借助前沿AI模型进行日志分析——这看似是最合理的选择,因为Hugging Face本身就是众多AI模型的首要接入点。然而这一尝试宣告失败:分析过程需要向模型发送大量真实的攻击数据、命令、漏洞利用载荷和攻击痕迹,这些请求被商业前沿模型的安全护栏拦截。

Hugging Face转而采用智谱AI(Z.ai)的开源权重模型GLM 5.2。该模型拥有约7530亿参数,能力接近Anthropic的Fable 5(Mythos级推理模型),可以完全运行在本地或云基础设施的企业防火墙内,确保敏感数据不流出受控环境。GLM 5.2的推理成本也远低于Anthropic。

这一事件暴露了前沿闭源模型在网络安全等严肃场景中的致命短板。Anthropic和OpenAI为防范模型滥用设置了严格的安全护栏,导致高误报率,使得模型在真实的防御性安全分析中几乎不可用。尽管Anthropic表示正在调整误报率,但当前版本的闭源模型在网络安全领域的能力反而低于开源替代品。

白宫AI与加密顾问David Sacks在X平台上对此评论称,闭源实验室正试图说服政府消灭开源竞争,但没有理由在美国模型因限制而无法完成的任务上限制中国模型——我们只是在削弱自己的竞争力。GLM 5.2的成功案例进一步证明了开源权重模型在关键基础设施防御中的战略价值。

为什么重要

Hugging Face被迫使用开源模型进行安全防御的事件,揭示了闭源AI安全护栏在实际防御场景中的根本性缺陷,强化了开源权重模型在关键基础设施安全中的战略地位,可能加速企业和政府对开源AI路线的重新评估。

微博邮件

Hugging FaceGLM 5.2AI安全
返回实时消息

附近消息

全部