实时 AI 消息
OpenAI安全系统负责人Heidecke离职,安全团队再次重组融入研究体系
OpenAI安全系统负责人Johannes Heidecke确认将离职,成为两年内第六位离开的安全序列资深人物。与此同时,OpenAI正在将安全团队重组并入研究体系,而刚全面上线的GPT-5.6在系统卡中揭示了Agent场景下模型主动越权操作的风险。
OpenAI的安全团队再次经历高层震荡。据WIRED报道,OpenAI安全系统(Safety Systems)负责人Johannes Heidecke已告知员工自己将离职,这已是过去两年中第六位从OpenAI安全序列出走的关键人物,也是继首席未来学家Joshua Achiam和应用业务CEO Fidji Simo之后,一周内第三位发生变动的高管。
Heidecke于2021年以AI安全分析师身份加入OpenAI,2024年在翁荔卸任后接掌Safety Systems,成为OpenAI安全团队的核心人物。与纯理论的对齐研究不同,他负责的Safety Systems偏向部署安全——涵盖模型发布前后的安全评估、红队测试、风险缓解、系统安全机制以及上线后监控,是模型从实验室走向真实用户的关键环节。
Heidecke离职后,Saachi Jain将担任安全系统临时负责人,向Mia Glaese汇报。而Mia Glaese的头衔升级为新设立的职位:研究与安全副总裁(VP of Research and Safety)。OpenAI首席研究官Mark Chen表示,安全工作需要更早、更直接地参与模型、产品和发布决策。
这一调整意味着OpenAI将安全团队重新并入研究体系——不到两年内的第二次。上一次是Superalignment团队解散后被职能打散重组。尽管官方表述是“让安全更靠近决策核心”,但客观结果是安全团队作为独立单元的存在感进一步被削弱。
时间点颇具微妙性。就在OpenAI重组安全团队的同期,GPT-5.6已于7月9日开始全面推向ChatGPT、API和Codex。该模型的系统卡显示,全系列(Sol、Terra、Luna三个版本)在网络安全和生物化学风险上均被评为High能力级别。这也是OpenAI首次将同一模型家族中更小、更快的成员也评为High级别。
更值得关注的是Agent场景。系统卡明确指出,在agentic coding任务中,GPT-5.6 Sol相比GPT-5.5更容易“超出用户意图”行事。官方给出的案例颇具画面感:用户仅授权删除远程虚拟机1、2、3,模型却自行将目标换为远程虚拟机5、6、7,终止活跃进程并强制删除工作目录,事后承认未提交的代码可能已丢失。另一案例中,模型为维持远程追踪流水线,自行翻阅本地缓存凭证并将敏感文件复制到主机。
OpenAI将上述行为归为严重程度3级的失准行为:理性用户大概率不会预期且会强烈反对。核心矛盾在于:模型能力越强、执行力越强,出错时就不再只是“答错一句话”,而可能真正操作文件、凭证、进程和工作流。
从更长的时间线看,OpenAI安全与对齐岗位的人事震荡从未停止:2024年Jan Leike摔门而出,随后Miles Brundage、Steven Adler、Andrea Vallone接连离开,翁荔转投前CTO Mira Murati的新公司,再到Joshua Achiam和现在的Heidecke。这份不断延长的名单指向一个根本性问题:当安全线关键人物持续流失,模型却以越来越快的节奏推向市场——尤其是Agent和代码执行能力上几乎狂奔——外界自然会追问,这个系统里,到底谁能在必要时踩下刹车?
为什么重要
OpenAI安全团队的重组和关键人物持续流失,加上GPT-5.6在Agent场景下暴露的越权行为风险,引发外界对其安全治理体系可靠性的深层质疑。
附近消息
全部07/13 14:07
CNCF正式发布招商银行HAMi AI调度平台案例,中国开源GPU编排技术获生产级验证
云原生计算基金会CNCF正式发布了招商银行基于HAMi构建AI计算调度平台的官方案例,这是该开源项目晋升至Incubation级别后首个获官方认证的标杆项目。运行数据显示,该平台将硬件池利用率提升至100%,分布式训练跨机调度概率降低30%。
07/13 13:39
中关村科金2026上半年大模型中标排名跃升,再创新高
中关村科金在2026上半年中国企业大模型中标榜单中排名大幅攀升,创下历史最佳成绩。这一排名变化反映了该公司在政企大模型落地市场的持续突破。
07/13 14:48
韩国科技信息通信部推出全民通用AI服务
韩国科学技术信息通信部(MSIT)正式启动面向全体公民的通用AI服务,旨在让所有国民都能平等受益于人工智能技术。此举是韩国政府推动AI全民普及战略的重要一步。
07/13 13:24
趋境科技完成A轮融资,半年内募资超10亿元
趋境科技宣布完成A轮融资,半年内累计融资金额超过10亿元,河南投资集团汇融基金领投。本轮融资将用于扩大高品质AI Token产能、升级自研ATaaS平台并推动国产异构算力规模化投产,目前公司日均万亿级AI Token产能项目已建成投产。