实时 AI 消息
山姆·奥特曼称世界必须接受 AI 的『坏处』,业界领袖签署特朗普版安全公约
据《财富》报道,奥特曼表示世界必须接受 AI 的『坏处』,与此同时多位业界领袖签署了与特朗普相关的 AI 安全公约。这番表态把对 AI 风险的坦诚承认与一份行业集体承诺放在了一起。
据《财富》报道,山姆·奥特曼表示,世界必须接受 AI 的『坏处』,与此同时,多位业界领袖签署了一份与特朗普相关的 AI 安全公约。这番表态与签署动作几乎同时出现,把对 AI 负面风险的坦诚承认,和一份行业集体承诺绑在了一起。
奥特曼这番话的特别之处在于他坦承了什么。他没有承诺 AI 会毫无代价地到来,而是表示社会必须在享受益处的同时接受那些『坏处』——这种立场实际上把一定程度的负面后果视为难以避免。
报道中被称为『特朗普版安全公约』的这份文件,为这种公开姿态提供了集体层面的对应物:它是由多位业界领袖共同签署的,而非某一家公司自设的安全底线。
两者叠加之所以重要,是因为它折射出当下 AI 治理中的一种张力。企业一边急于更快部署更强的系统,一边又公开承诺安全措施,而这两套信息并不总能轻易调和。
考虑到 OpenAI 的行业地位,奥特曼的言论影响超出公司本身:它会影响其他实验室和政策制定者讨论『可接受的风险』时的措辞。
后续看点是这份公约究竟要求了什么。一份签署的承诺,其意义取决于条款——它是否规定了测试、报告或披露义务,签署方又是否会被追责。
这份报道呈现的画面是:行业在其领军人物公开提醒公众要预期一定伤害的同时,集体站到了一份安全承诺之后。未来几个月将检验,这份公约带来的是真正的问责,还是仅仅一份意向声明。
为什么重要
行业领袖集体签署安全公约、同时又公开称风险难以完全避免,意味着围绕 AI 安全的问责标准可能从口头承诺转向具体条款的博弈。
附近消息
全部10/06 03:58
加州就 AI 智能体网络安全漏洞向 OpenAI 发出传票
据 Security Boulevard 报道,加州已就涉及 AI 智能体的网络安全漏洞向 OpenAI 发出传票。此举意味着州层面开始以正式法律手段介入智能体安全问题。
10/06 04:00
英伟达押注“美国版 DeepSeek”,将推出开放权重模型
有媒体报道称,英伟达正押注被称为“美国版 DeepSeek”的开放权重路线,并准备推出自己的开放权重模型。这意味着这家以芯片与算力为核心的巨头正进一步走向模型生态,直面中国开放权重模型带来的竞争。
10/06 03:33
Reflection AI 发布首个开放权重模型 Beam,主打更低推理算力对标中国模型
英伟达投资的 Reflection AI 发布首个开放权重模型 Beam,称其在推理能力上对标 GLM-5.2,但所需推理算力显著更低。该公司表示,模型权重将在本月发布。
10/06 02:54
Instinct 把 AI 智能体带入群聊,没有账号的好友也能参与
Instinct 正在推出群聊功能,让多位好友可以一起使用它的 AI 智能体,完成规划旅行、组织拼车、协调活动等任务。公司表示个人账户彼此独立,个人智能体在共享信息或采取行动之前必须先获得授权。