郭震 AI公众号:郭震AI

实时 AI 消息

Google 扩充第八代 TPU 阵容,新增 8tx 与 8i Max

据 NDTV Profit 11 月 9 日报道,Google 扩展第八代 TPU 产品线,新增 TPU 8tx 与 TPU 8i Max 两款型号,并把定位明确指向 AI Agent 类工作负载。报道目前只给出了型号与目标场景,具体规格、定价与可用区域尚未披露。

发布时间

据 NDTV Profit 11 月 9 日报道,Google 扩充了第八代 TPU 产品线,新增 TPU 8tx 与 TPU 8i Max 两款芯片,并将它们定位为面向 AI Agent 工作负载的产品。

报道把重点放在“负载”而不是“硅片”上。Agent 系统的运行方式与聊天机器人不同:一次用户请求可能触发一连串模型调用、工具调用和重试,服务端因此更多时间花在对延迟敏感的串行推理上,而不是对吞吐友好的批处理任务上。

这正是超大规模云厂商开始拆分加速器产品线的原因。为训练大模型优化的芯片,与为大量短小且相互依赖的请求优化的芯片,在内存、带宽和互连上的取舍并不相同,于是厂商越来越多地提供分场景的型号,而不是一款通用芯片打天下。

对 Google 来说,TPU 长期是内部优势的来源,既是 Gemini 训练与推理的底座,也是 Google Cloud 对外提供算力的差异化资产。推出分层的第八代阵容,同时也是对 NVIDIA 的一次竞争表态——对于尚未进入 Google 技术栈的企业,GPU 仍然是默认选择。

尚未公开的信息与已知信息同样重要。该报道给出了产品名称与目标工作负载,但没有规格、没有价格、没有区域可用性,也没有客户名单,因此 8tx 与 8i Max 之间的具体差异仍然未知。“tx”与“i”的后缀暗示两者在产品线中的位置不同,但报道并未展开说明。

对采购方而言,真正的问题不是峰值算力,而是每个 Agent 任务的成本。如果 Agent 真的成为主导性的推理形态,那么能够证明“长串短调用”成本更低的厂商将拿下部署订单,这也是 Google 公布技术细节时最该被检验的指标。

为什么重要

Google 按工作负载拆分 TPU 型号,说明推理侧的成本竞争正从单芯片性能转向单位任务成本。若 Agent 负载持续增长,加速器市场可能从“一款通用芯片”演化为多条按场景定制的产品线。

微博邮件

GoogleTPUAI Infrastructure
返回实时消息

附近消息

全部