郭震 AI公众号:郭震AI

实时 AI 消息

英伟达公布 Vera CPU 智能体性能:每瓦可承载 1.6 倍智能体

英伟达在官方博客中公布 Vera CPU 的智能体负载对比数据,称在 100 兆瓦数据中心场景下,单颗 Vera 既快于最快的 x86 CPU,也优于最节能的 x86 CPU,每瓦可承载的智能体数量多出 1.6 倍。Perplexity、DeepInfra、ClickHouse、Daytona 等采用者也给出生产级测试数字,但这些数据均来自英伟达或其合作伙伴。

发布时间
英伟达公布 Vera CPU 智能体性能:每瓦可承载 1.6 倍智能体
图源: blogs.nvidia.com

英伟达 11 月 5 日在官方博客中公布了 Vera CPU 面向智能体负载的对比数据,把这款芯片定位成“高吞吐”与“低延迟”可以同时成立的选择。文章由 Hannah Coutand 署名,核心论点是:当企业同时运行大量智能体时,瓶颈往往不在 GPU,而在负责执行动作的 CPU。

博客对负载形态的描述很具体。智能体不只会生成答案,还要检索信息、查询数据库、编写并测试代码、真正执行操作;这些步骤都依赖 CPU,一个任务会在 GPU 推理与 CPU 执行之间来回切换。智能体越多,AI 工厂就越需要能快速执行这些步骤、同时支撑大量并发任务的 CPU。

在 100 兆瓦数据中心的对比中,英伟达称单颗 Vera CPU 的表现优于最快的 x86 CPU,也优于最节能的 x86 CPU。相对最快的 x86 产品,Vera 每瓦可承载的智能体数量多出 1.6 倍;相对最节能的 x86 产品,Vera 的智能体速度达到 2 倍。

英伟达给出的结论是“一颗 CPU 覆盖多类负载”。过去运营商要在“快”和“密”之间取舍,混搭不同 x86 部件来平衡速度与容量;Vera 的卖点是把两种取向放进同一颗芯片。

早期采用者提供了接近生产环境的数字。Perplexity 称在 Vera 上跑智能体编码任务比传统 CPU 快 1.5 倍,并计划在接下来的生产系统中部署;DeepInfra 在智能体编排上测到最高 2.2 倍于最好的 x86 处理器;ClickHouse 称其标准二进制文件未做任何 Vera 专用调优,就在 176 核上接近线性扩展,并登上 ClickBench 硬件榜首。

沙箱类负载的对比更为直观。Daytona 用 Vera 在 10.8 秒内启动 1000 个智能体沙箱,x86 需要 88.4 秒,并在 2000 个并发沙箱下达到每秒完成 12.7 个任务。Modal 称每核沙箱吞吐量最高为同类 x86 硬件的 2 倍,且负载越重差距越大;DuckLabs 则给出约为 Intel Xeon 6 基线 1.5 倍的 TPC-H SF1000 中位性能。

真正值得注意的不是单个倍数,而是选型逻辑的变化。AI 工厂受功率约束,运营商必须在每一瓦上榨出尽可能多的工作量。在功率受限的 AI 工厂里,每瓦能跑多少智能体,正在取代单纯的算力峰值成为新的采购指标。

需要保留的疑问同样明显。这些数字全部来自英伟达或其合作伙伴,对比对象只以“最快的 x86”“最节能的 x86”泛指,没有给出具体型号;Perplexity 的生产部署进展和第三方复测,才是检验 Vera 真实位置的关键。

为什么重要

对 AI 数据中心而言,CPU 的能效与并发密度正从配角变成一等采购指标。若合作伙伴的数据能在第三方测试中复现,英伟达就能用 GPU 加自研 CPU 的组合,进一步挤压 x86 在智能体基础设施中的位置。

微博邮件

NVIDIAAI InfrastructureCPU
返回实时消息

附近消息

全部

11/06 04:03

METR 分析:Anthropic 新模型在所有基准上均超过 50%

据 Crypto Briefing 11 月 5 日报道,METR 的一项分析显示 Anthropic 的新模型在所有纳入评测的基准测试中得分均超过 50%。这一结果的意义在于覆盖面而非单项最高分,具体模型名称与逐项得分仍需以 METR 原始报告为准。

11/06 03:55

Cowboy 完成 500 万美元种子轮,要做 AI 智能体市场与开发者平台

据 Pulse 2.0 报道,初创公司 Cowboy 完成 500 万美元种子轮融资,资金将用于推出 AI 智能体市场与开发者平台。报道显示其目标是让智能体像应用一样被构建、上架与分发,但投资方与产品细节尚未公开。

11/06 03:48

Meta 向全美开放 Muse 视频通话,AI 智能体开始有了“脸”

Meta 宣布 Muse Voice 向美国所有用户开放,用户可给消费级 AI 智能体 Muse 打电话或视频通话,对话由 Muse Realtime Avatar 与 Muse Realtime Voice 两套新模型驱动。该功能 9 月在 Connect 首次亮相,将延伸到 AI 眼镜和年底前发布的 Muse Charm 硬件。

11/06 03:35

英伟达开源 Cosmos 3 四个世界模型检查点,瞄准机器人操作与自动驾驶仿真

英伟达在 Hugging Face 发布 Cosmos 3 系列四个开放权重检查点,覆盖自动驾驶多传感器数据生成、驾驶流式仿真、仿真器控制转视频以及双臂机器人动作预测。四个模型均由 Cosmos 3 Nano 后训练而来,拥有 16B 可训练参数,采用允许商用的 OpenMDW 1.1 许可。