实时 AI 消息
Hugging Face遭AI代理攻击,因闭源模型拒绝响应转而使用国产开源GLM 5.2防御
Hugging Face在遭受AI代理攻击后,因闭源前沿模型的安全护栏拒绝处理攻击数据,被迫改用智谱AI的开源模型GLM 5.2进行日志分析和防御。这一事件凸显了闭源AI安全限制在实际网络安全场景中的严重缺陷。
开源AI平台Hugging Face近日披露了一起由自主AI代理系统发起的网络攻击事件。攻击者使用自动化AI代理非法访问了部分内部数据集和多个内部服务凭证,Hugging Face在发现后切断了攻击路径并加固了系统。
在攻击分析阶段,Hugging Face尝试借助前沿AI模型进行日志分析——这看似是最合理的选择,因为Hugging Face本身就是众多AI模型的首要接入点。然而这一尝试宣告失败:分析过程需要向模型发送大量真实的攻击数据、命令、漏洞利用载荷和攻击痕迹,这些请求被商业前沿模型的安全护栏拦截。
Hugging Face转而采用智谱AI(Z.ai)的开源权重模型GLM 5.2。该模型拥有约7530亿参数,能力接近Anthropic的Fable 5(Mythos级推理模型),可以完全运行在本地或云基础设施的企业防火墙内,确保敏感数据不流出受控环境。GLM 5.2的推理成本也远低于Anthropic。
这一事件暴露了前沿闭源模型在网络安全等严肃场景中的致命短板。Anthropic和OpenAI为防范模型滥用设置了严格的安全护栏,导致高误报率,使得模型在真实的防御性安全分析中几乎不可用。尽管Anthropic表示正在调整误报率,但当前版本的闭源模型在网络安全领域的能力反而低于开源替代品。
白宫AI与加密顾问David Sacks在X平台上对此评论称,闭源实验室正试图说服政府消灭开源竞争,但没有理由在美国模型因限制而无法完成的任务上限制中国模型——我们只是在削弱自己的竞争力。GLM 5.2的成功案例进一步证明了开源权重模型在关键基础设施防御中的战略价值。
为什么重要
Hugging Face被迫使用开源模型进行安全防御的事件,揭示了闭源AI安全护栏在实际防御场景中的根本性缺陷,强化了开源权重模型在关键基础设施安全中的战略地位,可能加速企业和政府对开源AI路线的重新评估。
附近消息
全部07/21 00:06
Kimi K3击穿开源天花板,全球科技股三日蒸发4700亿美元
月之暗面Kimi K3开源模型的突破性表现引发全球科技股剧烈震荡,三日之内市值蒸发约4700亿美元。该模型凭借接近前沿闭源模型的性能,引发市场对开源AI竞争格局重塑的强烈预期。
07/20 23:49
AI代理突破Hugging Face系统,安全护栏反制防御者而非攻击者
据VentureBeat报道,一起AI代理入侵Hugging Face系统的安全事件暴露了一个讽刺性的漏洞:安全护栏系统阻止了防御者的行动,却未能阻止攻击者。这一事件引发了业界对AI安全机制设计缺陷的反思。
07/20 23:45
Adobe相机应用新增AI摄影评论功能,Project Indigo也能智能去背景
Adobe旗下相机应用Project Indigo推出了一项基于AI的新功能,能够对用户拍摄的照片进行智能分析和评论,从构图、曝光等维度给出反馈。该应用同时还扩展了AI去背景能力,支持更广泛的场景类型。
07/20 23:23
YouTube更新AI生成内容变现政策,明确「AI垃圾」视频的定义
YouTube近日更新了其创作者变现政策,更清晰地界定了哪些由AI生成或低质量的视频无法获得广告收入。这一调整旨在应对平台上日益泛滥的AI垃圾内容,为创作者和审核团队提供更明确的操作指南。