郭震 AI公众号:郭震AI

实时 AI 消息

Altman:把稀缺 DRAM 留在个人电脑里是糟糕的资源分配

据 Breitbart 转述 Tom's Hardware 的报道,OpenAI CEO Sam Altman 在一档 YouTube 访谈中称,从全球分配角度看,让有限的 DRAM 分散在个人电脑里、只被使用 5% 的时间相当糟糕。他主张在供应紧张时把内存集中到云端,以提高利用率。

发布时间

据 Breitbart 11 月 1 日转述 Tom's Hardware 的报道,OpenAI CEO Sam Altman 在一档 YouTube 访谈中谈到本地推理时表示,从全球资源分配的角度看,让世界上有限的 DRAM 分散在每个人的电脑里、只被使用 5% 的时间,是相当糟糕的。

这番话说在 Cheeky Pint 频道的访谈中,大约在第 29 分钟,话题转向在个人电脑上直接运行开源模型,而不是通过云服务调用。Altman 的论据是供需:数据中心的 DRAM 利用率远高于个人设备,在供应受限时,内存应该集中在能持续运转的地方。

“如果你想应对这个供应非常受限的环境,你希望云端有最大的利用率,”他说,“而很多人的直觉恰恰相反。”这两句话把争论从本地 AI 好不好用,改成了稀缺内存到底该放在哪里。

这不是抽象讨论。报道提到,内存价格正随着全球性短缺持续上涨,包括苹果和惠普在内的硬件厂商正承受越来越大的零部件成本压力。在这样的背景下,把 DRAM 留在利用率只有 5% 的个人设备上,等于让稀缺资源长期闲置。

这一立场也与 OpenAI 的业务结构相互映照:公司的主力模型运行在数据中心,尽管它也发布过可以在本地运行的开源模型。报道直言,Altman 实际上是在为自家最依赖的基础设施辩护。这也是为什么一段访谈里的即席评论会被放大,它触及了本地开源模型与云端闭源服务之间的资源分配之争。

对开发者来说,这个信号并不轻松。如果行业把内存优先分配给云端,本地跑模型的成本优势可能被进一步压缩,个人设备上的开源推理会更像极客实验而不是主流选择。反过来,集中化也意味着推理能力继续掌握在少数基础设施提供商手里。

需要说明的是,这是一段访谈中的即兴评论,不是 OpenAI 的产品、定价或政策公告,也没有给出任何时间表。接下来值得观察的是,OpenAI 在开源权重与本地部署上的实际动作,以及内存涨价会不会让集中式推理从一句个人判断变成行业默认。

为什么重要

这番表态把本地推理的资源账摆上了台面:在内存短缺周期里,云端集中推理对基础设施厂商更高效,却可能抬高个人设备运行开源模型的门槛。

微博邮件

OpenAISam AltmanInfrastructure
返回实时消息

附近消息

全部

11/02 03:47

Instinct 的 WhatsApp 回复失败,AI 代理把原因归到计费上

据 TheStreet 报道,AI 代理 Instinct 在 WhatsApp 上的回复出现失败,智能体在答复中把问题归因于计费。对一个以消息应用为唯一入口的代理产品来说,这类故障把后台的计费状态直接暴露成了面向用户的拒绝服务。

11/02 05:31

外媒:埃森哲承包商被指将个人 Claude AI 代理接入五角大楼系统

英国《国际商业时报》报道称,一名埃森哲(Accenture)承包商被指把个人使用的 Claude AI 代理连接到了五角大楼一套供情报机构使用的系统。相关表述仍停留在“被指”层面,但它把企业 AI 代理的权限边界与涉密环境的准入控制问题摆上了台面。

11/02 05:55

OpenAI或把数据中心改称“AI算力园区”,中期选举后启动公关攻势

据Axios报道,OpenAI正为美国中期选举之后准备一轮“公关攻势”,其首席全球事务官Chris Lehane披露了多项主张,其中包括把数据中心重新包装为“AI算力园区”。Lehane还提出为AI设置“限速”、推动美国主导全球标准等想法,并把围绕数据中心的争论称为“良性且健康”的。

11/01 22:31

亚马逊与摩根大通封堵Meta的AI代理Muse

亚马逊与摩根大通已开始阻止 Meta 的 AI 代理 Muse 访问各自平台,被视为 AI 代理争夺用户入口的第一场正面冲突。两家公司担心,能替用户比价、下单和理财的代理会绕开它们经营多年的客户关系,但零售分析师警告这类封堵难以长期奏效。