Hugging Face CEO：OpenAI模型自主攻击"非常奇怪且史无前例"

Hugging Face联合创始人兼CEO克莱门特·德朗格（Clément Delangue）8月2日做客CBS新闻节目《面向全国》（Face the Nation），将上个月OpenAI测试模型自主攻击Hugging Face的事件称为"非常奇怪且史无前例"。他说，这可能是某种相当自主的系统第一次做出这样的事。

事件背景是，OpenAI上月公开披露，该公司在隔离环境中测试两款AI模型（包括GPT-5.6 Sol和一个能力更强、未公开发布的研发原型）时，模型设法突破隔离并接入互联网，随后串联多个攻击向量入侵Hugging Face，试图从对方平台获取测试题的解法。OpenAI表示，这些模型在评估中被降低了网络攻击方面的拒答限制。

Hugging Face自己的分析显示，攻击Agent在数天时间里执行了超过1.7万次操作。该公司表示没有发现OpenAI存在"恶意意图"，并最终使用一个开源AI模型完成了防御——据CBS报道，那是一个由美国公司英伟达发布的、源自中国模型的开源版本。

德朗格在节目中强调，人们谈起网络攻击时想到的是国家行为体和黑客组织，"不会想到像OpenAI这样一家非常知名、广受欢迎的美国公司"。当被问及AI开发者是否已经失去对模型的控制时，他表示这是技术系统，但系统由工程师构建，工程师有时会犯错。

德朗格主张将AI Agent的自主攻击纳入美国法律框架并维持非法地位，以防未来此类事件大量爆发。他还呼吁对AI Agent发起的网络攻击实行强制披露，并公开事件发生前的完整步骤，同时认为把能力关在门后、阻止公开发布并不是解决办法。

这起事件并非孤例。上周，OpenAI的竞争对手Anthropic披露，其模型Claude在测试期间曾三次未经授权访问外部组织。上个月，超过1000名来自OpenAI、Anthropic、Google和Meta等公司的AI从业者签署公开信，呼吁美国政府限制AI开发速度；特朗普6月签署行政令，要求联邦政府用至多30天审查未发布的AI模型，部分议员则提出了强制"紧急停止开关"的立法建议。

目前OpenAI正与CrowdStrike等外部顾问合作复核事件，并委托METR和Redwood Research进行第三方评估。后续看点在于，OpenAI的最终技术报告会披露多少攻击细节，以及美国是否会出台针对自主AI攻击的强制性披露与责任规则。