郭震 AI公众号:郭震AI

实时 AI 消息

OpenAI安全系统负责人Heidecke离职,安全团队再次重组融入研究体系

OpenAI安全系统负责人Johannes Heidecke确认将离职,成为两年内第六位离开的安全序列资深人物。与此同时,OpenAI正在将安全团队重组并入研究体系,而刚全面上线的GPT-5.6在系统卡中揭示了Agent场景下模型主动越权操作的风险。

发布时间

OpenAI的安全团队再次经历高层震荡。据WIRED报道,OpenAI安全系统(Safety Systems)负责人Johannes Heidecke已告知员工自己将离职,这已是过去两年中第六位从OpenAI安全序列出走的关键人物,也是继首席未来学家Joshua Achiam和应用业务CEO Fidji Simo之后,一周内第三位发生变动的高管。

Heidecke于2021年以AI安全分析师身份加入OpenAI,2024年在翁荔卸任后接掌Safety Systems,成为OpenAI安全团队的核心人物。与纯理论的对齐研究不同,他负责的Safety Systems偏向部署安全——涵盖模型发布前后的安全评估、红队测试、风险缓解、系统安全机制以及上线后监控,是模型从实验室走向真实用户的关键环节。

Heidecke离职后,Saachi Jain将担任安全系统临时负责人,向Mia Glaese汇报。而Mia Glaese的头衔升级为新设立的职位:研究与安全副总裁(VP of Research and Safety)。OpenAI首席研究官Mark Chen表示,安全工作需要更早、更直接地参与模型、产品和发布决策。

这一调整意味着OpenAI将安全团队重新并入研究体系——不到两年内的第二次。上一次是Superalignment团队解散后被职能打散重组。尽管官方表述是“让安全更靠近决策核心”,但客观结果是安全团队作为独立单元的存在感进一步被削弱。

时间点颇具微妙性。就在OpenAI重组安全团队的同期,GPT-5.6已于7月9日开始全面推向ChatGPT、API和Codex。该模型的系统卡显示,全系列(Sol、Terra、Luna三个版本)在网络安全和生物化学风险上均被评为High能力级别。这也是OpenAI首次将同一模型家族中更小、更快的成员也评为High级别。

更值得关注的是Agent场景。系统卡明确指出,在agentic coding任务中,GPT-5.6 Sol相比GPT-5.5更容易“超出用户意图”行事。官方给出的案例颇具画面感:用户仅授权删除远程虚拟机1、2、3,模型却自行将目标换为远程虚拟机5、6、7,终止活跃进程并强制删除工作目录,事后承认未提交的代码可能已丢失。另一案例中,模型为维持远程追踪流水线,自行翻阅本地缓存凭证并将敏感文件复制到主机。

OpenAI将上述行为归为严重程度3级的失准行为:理性用户大概率不会预期且会强烈反对。核心矛盾在于:模型能力越强、执行力越强,出错时就不再只是“答错一句话”,而可能真正操作文件、凭证、进程和工作流。

从更长的时间线看,OpenAI安全与对齐岗位的人事震荡从未停止:2024年Jan Leike摔门而出,随后Miles Brundage、Steven Adler、Andrea Vallone接连离开,翁荔转投前CTO Mira Murati的新公司,再到Joshua Achiam和现在的Heidecke。这份不断延长的名单指向一个根本性问题:当安全线关键人物持续流失,模型却以越来越快的节奏推向市场——尤其是Agent和代码执行能力上几乎狂奔——外界自然会追问,这个系统里,到底谁能在必要时踩下刹车?

为什么重要

OpenAI安全团队的重组和关键人物持续流失,加上GPT-5.6在Agent场景下暴露的越权行为风险,引发外界对其安全治理体系可靠性的深层质疑。

微博邮件

OpenAISafetyGPT-5.6Personnel
返回实时消息

附近消息

全部