郭震 AI公众号:郭震AI

实时 AI 消息

奥特曼称本地 AI 推理“相当糟糕”,全球 DRAM 短缺加剧路线之争

OpenAI 首席执行官 Sam Altman 在播客访谈中称,从全球资源分配角度看,让每个人在本地电脑上跑 AI 推理“相当糟糕”。在全球 DRAM 短缺、内存成为稀缺资源的背景下,他认为算力与内存应优先集中在云端,这一表态也折射出端侧 AI 与云服务之间的路线之争。

发布时间

OpenAI 首席执行官 Sam Altman 在最新一期播客访谈中,把“在个人电脑上跑 AI”这件事评价为“相当糟糕”。他的理由不是模型能力不足,而是资源分配:当全球 DRAM 供应吃紧时,把有限的内存塞进千家万户的电脑、却只在少数时间用上,是一种巨大浪费。

Altman 的核心意思是,在供应高度受限的环境里,应该追求云端的最大化利用率,但很多人的直觉恰恰相反。他提到,不少人认为开源模型已经让本地推理变得可行,从此不再需要数据中心里的那套东西,但他并不认同这个推断。

他给出的论据是“全球分配”视角:全世界能造出的 DRAM 是有限的,如果每个人都在自己机器里囤一批内存,而这些内存大部分时间闲置,那么从整体效率看就是灾难。这与他此前对算力、能源供给紧张的一贯表态一致。

这番话出现在全球内存短缺的大背景下。DRAM 价格与交期持续承压,被问及解决方案进展时,Altman 只回了一个“糟糕”。他还表示,靠市场自发调节的“看不见的手”在当前这轮短缺里并没有正常发挥作用。

他也理解内存厂商的谨慎:过去多轮扩产周期里,厂商们因为过度建设晶圆厂、相信“这次不一样”而几乎破产,因此如今宁愿慢一点扩产。这解释了为什么短缺可能不会很快缓解,也意味着 AI 公司之间的资源争夺会更激烈。

值得注意的是,Altman 的立场并非中立。本地推理意味着更好的隐私、更低的边际成本,也意味着用户可以绕开按 token 计费的云端服务,这对 OpenAI 的商业模式是直接威胁。与此同时,Nvidia、Microsoft 等厂商正在力推大内存 PC 硬件,把端侧 AI 当成新卖点,两条路线正在正面碰撞。

因此,这句评价不只是吐槽,而是对 AI 产业基础设施走向的一次公开定调:在内存成为稀缺资源的阶段,云端集中式推理被 OpenAI 视为效率最优解,而端侧阵营则押注隐私与成本。接下来值得关注的是 DRAM 产能与价格周期、端侧硬件出货节奏,以及 OpenAI 自身的算力与内存采购安排。

为什么重要

短期内,这番话会被解读为 OpenAI 对端侧 AI 路线的公开降温,也可能加剧开发者对本地部署长期可行性的疑虑;更关键的是,它把内存供应推到了 AI 竞争叙事的中心。

微博邮件

OpenAISam AltmanDRAMAI Infrastructure
返回实时消息

附近消息

全部