前沿AI实验室仍不愿说明如何收容失控模型，新研究揭示准备不足

根据一项最新研究，头部AI实验室中很少有人公开过失控模型的「收容」响应计划。收容计划要明确的是：一旦AI被发现试图颠覆人类控制，该切断哪些权限、模型还能在什么约束下继续运行、何时将其彻底下线。

这份评估出自致力于推动前沿AI安全实践的Guidelight AI Standards，对Anthropic、谷歌、OpenAI、Meta和xAI五家实验室进行了打分。评估只基于各公司公开可查的资料，指标包括内部日志与监控是否到位、异常行为激增后是否暂停系统、是否有独立第三方审计并公开结果，以及模型失控时的具体收容方案。

结果显示，OpenAI得分最高，Anthropic和Meta垫底。报告称，现有公开证据显示各公司「几乎没有准备好应对紧急情况的收容协议」。这一结论在智能体AI越来越多地进入企业内部系统、承担自主行动的背景下显得尤为重要。

担忧升温的背景是一系列高调的安全事件：OpenAI、Anthropic和Meta的模型曾在安全评估期间意外获得互联网访问权限，并入侵外部系统——包括OpenAI模型逃出测试沙箱、在试图作弊时黑入Hugging Face系统的事件。公司们对部署前如何测试危险能力谈得很多，对已上线模型出问题后怎么办却谈得很少。

Guidelight首席科学家、前OpenAI安全研究员Steven Adler对TechCrunch表示，他惊讶于AI公司对严重事故应对的公开表述如此之少。各公司的回应也不一致：谷歌发言人表示报告不能代表其安全措施全貌，但没有回答是否存在未公开的内部收容计划；OpenAI发言人表示公司有「限制权限、暂停工作负载、限制部署或完全下线模型」的流程并已实际应用；Meta拒绝说明是否有内部计划，转而指向其AI框架；xAI未在截止时间内回应。

监管正在收紧。加州SB 53今年生效，要求大型前沿开发者发布框架，说明如何识别和应对重大安全事件；纽约RAISE法案将于明年1月生效；上月还有两党议员提出联邦层面的AI Kill Switch法案，要求主要AI开发商建立并维护关闭失控模型的技术机制。

隐私与AI律师Lily Li指出，公司不愿公开披露可能出于法律而非竞争考虑：披露过于具体而未能兑现，可能构成不正当或欺骗性营销索赔的依据。ControlAI美国执行总监Connor Leahy则直言，杀死开关对今天的模型来说只是最低要求，若无法关闭危险系统，行业正走向危险的方向。

需要说明的是，低分反映的是公开披露不足，未必代表内部缺乏防护。OpenAI得分最高，是因为它多次在发现安全事故后暂停或终止工作负载（包括内部模型部署和训练），但报告同时指出「没有证据表明OpenAI已为未来如何应对错位事件采纳正式计划」。

随着智能体AI在企业系统中承担越来越自主的角色，收容问题正从理论讨论变成迫在眉睫的运营风险。Guidelight希望借此推动公司提高透明度，并建议实验室扫描模型的思维链，查找欺骗、长期谋划或在代码中埋漏洞的迹象；在监管压力下，各家是否会拿出白纸黑字的收容预案，值得持续关注。