郭震 AI公众号:郭震AI

实时 AI 消息

英伟达把AI工厂做成集装箱:到场14天即可产出token

英伟达发布DSX POD硬件产品线,把Vera Rubin计算、网络、供电和液冷系统在工厂内预制进模块化集装箱,现场部署周期从传统的约6个月压缩到最快14天。配套的DSX MaxLPS与DSX Flex软件则试图把同样的电力预算换成更多推理吞吐。

发布时间
英伟达把AI工厂做成集装箱:到场14天即可产出token
图源: nvidia.com

英伟达最新公布的一揽子数据中心方案,核心是把"建AI工厂"变成"交付AI工厂"。新发布的DSX POD硬件产品线把Vera Rubin计算系统、高速网络、机架级供电和液冷散热一起打包进模块化集装箱,跨机柜布线、管路连接和整机功能验证都在合作方工厂内完成。

变化的直接结果是工期。传统AI数据中心需要现场安装计算节点、布线、铺设供电与液冷管路,一旦遇到零件延迟或施工失误,周期常常超过半年。按照英伟达的说法,集装箱到场后只需接上预留的电力、制冷和网络设施即可上电,现场部署最短14天。

英伟达用"Time to First Token"来衡量这套交付效率:对运营商来说,早一天上线训练和推理,就早一天开始按token收费。文章给出的理想测算是,一个一万卡集群上线后若满负荷且客户订满,每小时收入可达38万美元,而这个前提本身相当苛刻。

单节点装配也被压缩。Vera Rubin采用无线缆架构和100%全液冷,官方称单节点组装时间从Grace Blackwell方案的2小时缩短到5分钟,同时提升可靠性与性能。

电力是另一半故事。DSX MaxLPS在既定电力预算内做动态分配,官方称在产出相同token的情况下最多可省30%电力;反过来,固定预算下省出的电力可以换成算力。英伟达给出的实测是:Lambda基于HGX B200的概念验证中,集群token吞吐提升24%、可容纳GPU算力提升19%;Nscale在冰岛AI工厂的4个GB300 NVL72机柜、264kW供电预算下,推理吞吐提升49%、可管理GPU算力提升37%。

DSX Flex则让AI工厂参与电网调节,根据电网负荷、电价波动和现场光伏储能情况实时调整功耗。英伟达称在与英国国家电网、Nebius、Emerald AI的联合测试中,模拟电网紧急状况时Blackwell Ultra集群在不中断关键业务的前提下瞬时降低40%功耗。

散热方面,Vera Rubin支持45°C冷却液的100%全液冷,DSX参考设计把闭环液冷与室外干冷器结合,全程不蒸发水。英伟达称2GW规模的AI工厂相比传统冷却塔每天可省下5400万升水。软件侧,SimReady Central物理资产库上线Hugging Face,DSX OS基础设施管理套件开源并放出三个开发者预览组件。

需要保留的判断是,14天、49%、38万美元都建立在特定配置与理想利用率之上,真实项目还要受电力接入、客户订单和现场条件的约束。但方向已经清楚:英伟达不再只卖芯片和机柜,而是把交付周期、能耗和并网能力一起做成产品。接下来值得关注DSX POD的首批客户落地情况,以及这些软件工具在第三方机房中的实际增益。

为什么重要

AI基础设施的竞争从单卡性能扩展到交付速度、电力效率和电网协同,运营商的成本模型会被重新计算。

微博邮件

NVIDIAAI InfrastructureData Center
返回AI日报

附近消息

全部