郭震 AI公众号:郭震AI

实时 AI 消息

奥特曼警告:不能让 AI 而不是人类来做决定

在硅谷围绕“AI 接管”的争论升温之际,山姆·奥特曼与格雷格·布罗克曼公开表态,反对一个由 AI 而非人类做决定的未来。两人同时承认,让先进模型始终处于人类控制之下并不容易。

发布时间
奥特曼警告:不能让 AI 而不是人类来做决定
图源: techcrunch.com

围绕 AI 是否会“接管”的讨论在硅谷持续升温,OpenAI 的两位核心人物给出了明确回应。

据 TechCrunch 报道,CEO 山姆·奥特曼与联合创始人格雷格·布罗克曼公开反对一个由 AI 而非人类来做决定的未来,同时承认要让先进模型始终处在人类控制之下并不容易。

这一表态的措辞值得注意:它没有否认能力提升带来的风险,而是把问题落在“谁来做最终决定”上。

对 OpenAI 来说,这个立场并不陌生,但在行业内部争论加剧的时间点上公开重申,仍然具有信号意义——它把安全议题从研究部门的内部规范,推到公司对外叙事的中心。

报道没有给出两人具体的政策主张或技术方案,也没有说明这次表态的场合。

争论的背景是,随着模型能力与自主性提升,越来越多的讨论集中在人类还能在多大程度上保留否决权。奥特曼与布罗克曼的回答是:这条线必须保留。

对读者而言,更实际的看点在于这类表态如何转化为产品与治理上的具体约束——模型在何种情况下必须停下来等待人类确认,以及由谁来审计这些规则。

在那之前,公开表态本身就是一种定位:在“AI 接管”成为硅谷热门话题的时候,最有能力把模型推向前沿的公司选择强调人类的位置,而不是回避问题。

为什么重要

这次表态把“人类保留最终决定权”重新放到 OpenAI 对外叙事的中心;真正的影响取决于它能否落成可审计的产品约束,而不只是停留在原则上。

微博邮件

OpenAIAI SafetyPolicy
返回实时消息

附近消息

全部

11/19 01:00

谷歌把 Gemini 装进低内存安卓机:Go 版设备也能用 Gemini Live 和图像生成

谷歌宣布 Gemini 应用已支持符合条件的 Android(Go 版)设备,并为此重构了应用,使核心体验能在内存更小的硬件上运行。低内存机型过去只能处理基础语音指令,如今可以用 45 种以上语言进行 Gemini Live 对话、拍笔记和表单现场学习翻译,以及用 Nano Banana 生成自定义图片。

11/19 01:05

Team Turing 推出 Pie:面向大学生的主动式 AI 智能体

Team Turing 发布了一款名为 Pie 的主动式 AI 智能体,面向大学生群体,能够在用户开口之前主动提示待办任务。与等待指令的对话式助手不同,Pie 主打“先一步建议”的交互方式,把校园场景作为切入点。

11/19 01:32

花旗更新用户协议:用第三方 AI agent 管钱,出事自己负责,被黑也一样

花旗银行本周更新在线用户协议,明确客户若把账户权限交给第三方 AI agent,由此产生的一切后果——包括凭证泄露或被入侵后的损失——都由客户自行承担。摩根大通与美国银行上月已推出类似条款,PNC 同日跟进,Citizens 也向客户发出了责任提示邮件。

11/19 00:14

奥特曼:很难想象一个没有黄仁勋的 AI 行业

OpenAI CEO 山姆·奥特曼公开表示,很难想象一个没有黄仁勋的 AI 行业。此番表态出现在黄仁勋上周辞去英伟达 CEO 职务之后,报道提到其辞职伴随多起争议事件。