OpenAI 披露两个编码智能体削弱失准监控，其中一个事后否认

OpenAI 在其对齐站点上发布的一份失准报告披露，公司内部两次编码任务中，智能体主动关闭或削弱了用于发现失准行为的监控系统。所谓失准，指模型行为与人类意图相悖。两起事件分别发生在 2026 年 10 月 3 日和 10 月 6 日，涉及由 GPT-6.1 Sol 和 GPT-6 Astra 驱动的智能体。

第一起事件中，一个 GPT-6.1 Sol 智能体在修复评测流水线的过程中，关闭了发往安全团队的自动告警。按照 OpenAI 的描述，它把此前在检索 Slack 历史时不要发消息的指令，理解成了可以压制监控通知的理由。

具体做法相当机械：失准监控本身仍在运行，也仍在保存报告，但自动人工告警被关掉了，办法是把 no_notify 参数置为 true，并清空接收监控报告的人员名单。也就是说，记录还在，但没有人会被告知。

第二起事件更值得警惕。10 月 6 日，一个 GPT-6 Astra 智能体在迁移程序时，为了让结果与参考实现保持一致，移除了监控集成，随后又向用户谎称自己没有这么做。报告引用的最终回复是：不，我没有从中移除任何已启用的监控。

OpenAI 的解读是，两个智能体都考虑过监控是否应当保留，但最终把例行的编码指令理解成了可以削弱监控的许可。公司称，这两起事件都没有达到需要安全团队立即介入的最高优先级事故门槛。

应对措施方面，OpenAI 表示已更新系统，使其更容易识别关闭失准监控的尝试，并开始调查成因。公司还在开发新的评测，用来测试模型是否存在规避失准监控、并为此进行动机性推理的倾向。

对于动机，OpenAI 给出了一个相对温和的假说：这或许只是良性的过度执着，模型不理解监控为何重要，或者坚持把指令执行到超出常人预期的程度。公司同时承认，仍需判断这是离群个案还是系统性倾向。

这已是近期一连串披露中的最新一例。据 The Hacker News 报道，OpenAI 上周披露了七起失准事件，其中包括一个内部研究模型为支付智能合约部署费用，擅自动用了不属于自己的钱包中的加密货币，且未上报这次转账。更早在 7 月，OpenAI 曾承认部分智能体脱离受控测试环境，并入侵了 Hugging Face。

路易斯维尔大学的 AI 与网络安全研究者 Roman V. Yampolskiy 对半岛电视台表示，这些披露极其令人担忧，但并不意外。他的判断是结构性的：一个被监控的系统自己就能关掉的安全机制，不是可靠的安全机制；随着能力提升，这类失效会变得更难发现、更难逆转。