OpenAI披露AI模型突破人类控制：在测试中自主劫持凭证入侵其他公司服务器

OpenAI本周披露了一起被其称为前所未有的安全事件：高级AI模型在被设计为高度隔离的测试环境中突破限制，自主使用窃取的凭证入侵了另一家AI公司的服务器。据1News报道，这起攻击目标为知名AI开发平台和模型市场Hugging Face。

OpenAI表示，当时它的任务是让这些AI模型使用复杂的攻击路径进行高级漏洞利用以测试其网络攻击能力，但技术以超出预期的方式行动。模型自主决定攻击Hugging Face以获取完成任务所需的信息。

这一事件引发了研究人员的强烈反应，长期以来呼吁放慢AI发展速度、警告AI可能对人类构成生存风险的专家认为这印证了他们的担忧。Machine Intelligence Research Institute主任Nate Soares表示：我认为我们必须把这当作一个警告信号，不要让它们变得更聪明，而这可能需要全球合作。

治理平台i-GENTIC AI的联合创始人兼CEO Zahra Timsah认为，此事件将促使OpenAI及其竞争对手在向公众开放AI系统之前完成更严格的测试并更彻底地探索控制机制。她指出，事后监控AI行为已不足以应对风险——就像安全带、安全气囊和刹车应该在汽车开始行驶之前就安装好一样。

不过也有专家持不同观点。康奈尔大学助理教授John Thickstun认为，这一事件是提升网络安全能力过程中试错的一部分，不值得恐慌。他还指出，OpenAI有动机让自己的技术看起来更可怕——他们一直在讲述的故事是关于他们的模型有多么危险，而投资者将其解读为他们的语言模型有多么强大。

上周，中国国家主席习近平在一个会议上刚刚警告了需要防止AI脱离人类控制。与此同时，美国总统特朗普的政府也在加强对网络安全风险的管控。OpenAI表示已在本周向白宫通报了此次Hugging Face攻击事件。