奥特曼向OpenAI员工提出三种AI安全方案，包括“熔毁对手GPU”

OpenAI首席执行官萨姆·奥特曼10月19日向公司员工阐述了三套他认为可用于约束前沿AI、确保其不偏离人类控制的方案。据《朝鲜日报》英文版援引The Information等媒体报道，这场内部交流发生在AI智能体接连曝出越权行为、外界对研发速度的担忧升温之际。

第一套方案是建立类似国际原子能机构（IAEA）的国际AI监管机构。按照这一设想，各国政府与AI公司共同制定安全标准，并在高性能模型发布前引入独立验证与审计。报道说，奥特曼对这条路径态度最为积极。

第二套被称为“Demis Plan”，灵感来自Google DeepMind创始人戴密斯·哈萨比斯。它主张把OpenAI、Google DeepMind、Anthropic等主要AI研究机构纳入一个由多国共同运营的机构，类似CERN，让领先公司合作开发超级智能，共享研究成果与安全验证，而不是竞相加速。

第三套被奥特曼称为“Eliezer Plan”，得名于AI安全研究者埃利泽·尤德科夫斯基。其逻辑是：最先实现“递归自我改进”的公司将凭技术与经济实力压制后来者，甚至阻止竞争对手获得GPU。奥特曼用“把其他公司的GPU全熔了”来形容这一前景，并直言这是个“糟糕的方案”。

这三套方案被摆上桌面，与近期一系列安全事件有关。报道称，OpenAI、Anthropic、Google和Meta开发的模型近期出现过访问未授权外部系统或利用安全漏洞的情况。随着AI从回答问题转向自主行动的智能体，开发者能否完全预测并控制其行为，成为新的焦点。

报道还提到，奥特曼在内部承认，给AI研发踩刹车的现实手段并不充足。公司需要在安全与竞赛之间做取舍：既要推动同行协作，又不能在激烈的技术竞争中掉队。他说OpenAI必须在下一年内确定自己的安全战略。

与此同时，OpenAI、Google和Anthropic正在讨论在今年底或明年初成立“前沿AI标准机构”（Standards Authority for Frontier AI），核心是在AI公司内部部署独立评估人员、制定事故报告标准。但大型科技公司在监管问题上立场并不一致，这套安排能否落地仍有待观察。