郭震 AI公众号:郭震AI

实时 AI 消息

AMD 在 Helion OCP 蓝图中加入 Model Router,运营商可靠 CPU 扩容

据 Tech Times 报道,AMD 在其面向开放计算项目(OCP)的 Helion 蓝图中新增了一个 Model Router 组件。该报道称,这一设计让数据中心运营商可以通过扩充 CPU 来提升服务能力,而不必购置更多 GPU。

发布时间

据 Tech Times 报道,AMD 在其面向 OCP(开放计算项目)的 Helion 蓝图中加入了一个 Model Router 组件。

该报道给出的核心结论是:借助这一设计,运营商可以在不追加采购 GPU 的情况下,通过扩展 CPU 来提升服务能力。换句话说,扩容路径从“多买加速卡”变成了“多买通用算力”。

把模型路由纳入机架级蓝图,意味着资源调度的决策点上移到基础设施编排层。请求不必默认全部涌向 GPU 池,而是可以在不同类型的计算资源之间被分配,这改变了此前以 GPU 为中心的部署假设。

对数据中心而言,这直接关系到成本结构。GPU 是当前 AI 基础设施中单价最高、供给最紧张的部件;如果一部分负载可以在 CPU 上被有效承接,扩容的边际成本就有望下降。

需要注意的是,候选来源只提供了标题层面的信息,未披露该蓝图的技术细节、支持的模型类型或实际性能数据,因此这更像是方向性的架构信号,而非可直接对比的基准结果。

后续值得关注的是 OCP 社区与运营商对该蓝图的采用情况,以及“以 CPU 扩容”在真实推理负载中能覆盖多大比例的工作量。

为什么重要

若模型路由能在 CPU 与 GPU 之间有效分流,AI 数据中心的扩容路径会更多元,GPU 单点紧张带来的成本压力也可能得到缓解。

微博邮件

AMDData CenterInfrastructure
返回实时消息

附近消息

全部