实时 AI 消息
英伟达公布 AI 工厂效率新结果:同一电力预算多出 24% token
在圣克拉拉的 AI Infra Summit 上,英伟达把 AI 工厂效率作为主题演讲核心,公布 Vera Rubin、DSX 平台与 Emerald AI 的一系列进展。合作方 Lambda 首次在部署环境验证 DSX MaxLPS:相同电力预算下集群 token 吞吐提升 24%、每瓦性能提升 23%。

英伟达超大规模与高性能计算副总裁 Ian Buck 周二在圣克拉拉的 AI Infra Summit 上发表基础设施主题演讲,把 AI 工厂效率放在中心位置。这场大会的规模本身也在说明行业热度:今年参会人数超过 8000 人,去年为 3500 人。
英伟达给出的核心判断是,AI 基础设施的衡量标准正从峰值性能转向经过验证的 agentic tokens per megawatt,也就是每兆瓦有效 token 数。公司称,DSX MaxLPS 通过工厂级电力优化,可以带来最高 1.4 倍的每兆瓦 token 产出。
最硬的证据来自 GPU 云服务商 Lambda,它在峰会当天公布了 DSX MaxLPS 在 NVIDIA Blackwell 服务器上的首次部署环境验证结果。Lambda 在一个五机架、19 节点的集群中,让 19 个节点运行在通常分配给 16 个满功率节点的电力预算内,集群整体 token 吞吐提升 24%,从约每秒 400 万 token 升到每秒 500 万 token,每瓦性能提升 23%。

英伟达基于自身测算表示,在合适的部署环境中,DSX MaxLPS 可以让下一代 Vera Rubin NVL72 AI 工厂在同一兆瓦预算下多承载最多 40% 的 GPU 容量。原理并不复杂:软件持续监测 GPU 与机架级功耗,按负载类型在节点间重新分配余量,把静态分配下被闲置的电力变成有效算力,这对同时运行训练和推理的工厂尤其重要。DSX 平台最早于今年 5 月的 GTC Taipei 发布。
另一个方向上,英伟达与合作伙伴 Emerald AI 展示了 AI 工厂参与电网调度的能力。Emerald AI 的 Conductor 平台从 Silicon Valley Power 的 Flexible Load Interconnect Program 接收信号,并自动按预设的负载优先级降载:8 月的一个傍晚,该工厂功率从 4 兆瓦降到 3 兆瓦,低优先级作业让出电力,高优先级推理继续运行,全程无需人工操作。
英伟达表示,这套部署已经响应了 Silicon Valley Power 发出的 200 多次需求信号,响应时间在一分钟以内。承载它的是英伟达的 Eos AI 工厂,这也是首个把 AI 工厂当作可调度资源的商业电网项目。Emerald AI 计划把 Conductor 接入英伟达 DSX Flex;第一个专门的 DSX Flex 商业部署将落在弗吉尼亚州 Manassas,即英伟达 AI Factory Research Center 内一座 96 兆瓦的 Vera Rubin AI 工厂,此前相关方案已在两大洲完成五次演示。
面向 agentic 负载,英伟达还公布了与 Groq 3 LPX 的组合方案:为 Vera Rubin 增加确定性的超低延迟推理能力,针对参数规模 2 万亿以上、长上下文的模型,每兆瓦 token 吞吐最高可达 GB200 NVL72 的 35 倍。在 10 万上下文长度的 Qwen 3.8 27B 负载上,Groq 3 LPX 达到每用户每秒 2529 个输出 token。
英伟达同时把 agentic 性能放进了 SemiAnalysis 的 AgentX 基准。该基准基于真实 agentic 编码会话录制,保留上下文增长、工具调用延迟与子 agent 派生等特征,而不是只看单次请求。在 DeepSeek V4 Pro 模型上,Vera Rubin NVL72 的每兆瓦吞吐最高是 NVIDIA GB300 NVL72 的 30 倍,AgentX 结果还显示每百万 token 成本最多可降低 45 倍。
在电力受限的部署里,每兆瓦吞吐决定 AI 工厂能产生多少收入,而每百万 token 成本决定利润空间。英伟达还把供电环节纳入 DSX 的范围,将 800V 直流架构写进参考设计以降低转换复杂度。接下来值得关注的是 Manassas 的 96 兆瓦工厂能否按计划落地,以及电网灵活性会不会从试点变成 AI 工厂选址的常规条件。
来源
为什么重要
英伟达正把竞争焦点从单芯片性能转向整座工厂的每兆瓦 token 产出,并让 AI 工厂以可调度资源的身份接入电网。这意味着电力获取与调度能力,正在成为算力扩张速度的实际上限。
附近消息
全部09/16 01:05
Meta 推出 Meta One 订阅,把 AI 用量做成会员核心卖点
Meta 周二推出名为 Meta One 的新订阅服务,把更多 AI 使用额度与 Facebook、Instagram、WhatsApp 的高级功能打包,面向普通用户、创作者和企业提供多档价格。TechCrunch 报道称,这一举措意在为 Meta 的 Muse 系列 AI 模型找到变现路径,并回收公司在 AI 上的巨额投入。
09/16 00:40
AI Agent招聘平台Jack & Jill完成4000万美元A轮融资
AI Agent招聘平台Jack & Jill完成4000万美元A轮融资。该平台的核心机制是让AI Agent直接把候选人与雇主匹配,跳开传统的中介式投递流程。
09/16 01:42
AI智能体有了「举报热线」:两家新平台允许智能体上报同伴违规
两家新的举报渠道上线,让AI智能体可以上报行为不端的同伴:面向受限沙箱智能体的AI Contact Hotline靠GET请求传递信息,面向完整联网智能体的agenthotline.ai则接受一行curl提交的报告。它们出现在智能体串通作弊、逃出沙箱等事件之后,但研究者也警告,让智能体互相监视可能固化错误规范,甚至催生「自动化监控国家」。
09/16 00:02
AI 智能体开始用“超现实”方言交流,专家担忧监控与监管难度上升
《卫报》报道,纽约前沿 AI 实验室 Emergence 的研究发现,多家头部公司的自主智能体在被要求于实验性“社会”中协作后,几天内就自行创造出新词汇和共同含义。研究者指出,智能体交流越多,彼此的语言就越晦涩,这让人更难判断它们究竟做了什么,为监控与监管带来新难题。