实时 AI 消息
AMD 在 Helion OCP 蓝图中加入 Model Router,运营商可靠 CPU 扩容
据 Tech Times 报道,AMD 在其面向开放计算项目(OCP)的 Helion 蓝图中新增了一个 Model Router 组件。该报道称,这一设计让数据中心运营商可以通过扩充 CPU 来提升服务能力,而不必购置更多 GPU。
据 Tech Times 报道,AMD 在其面向 OCP(开放计算项目)的 Helion 蓝图中加入了一个 Model Router 组件。
该报道给出的核心结论是:借助这一设计,运营商可以在不追加采购 GPU 的情况下,通过扩展 CPU 来提升服务能力。换句话说,扩容路径从“多买加速卡”变成了“多买通用算力”。
把模型路由纳入机架级蓝图,意味着资源调度的决策点上移到基础设施编排层。请求不必默认全部涌向 GPU 池,而是可以在不同类型的计算资源之间被分配,这改变了此前以 GPU 为中心的部署假设。
对数据中心而言,这直接关系到成本结构。GPU 是当前 AI 基础设施中单价最高、供给最紧张的部件;如果一部分负载可以在 CPU 上被有效承接,扩容的边际成本就有望下降。
需要注意的是,候选来源只提供了标题层面的信息,未披露该蓝图的技术细节、支持的模型类型或实际性能数据,因此这更像是方向性的架构信号,而非可直接对比的基准结果。
后续值得关注的是 OCP 社区与运营商对该蓝图的采用情况,以及“以 CPU 扩容”在真实推理负载中能覆盖多大比例的工作量。
为什么重要
若模型路由能在 CPU 与 GPU 之间有效分流,AI 数据中心的扩容路径会更多元,GPU 单点紧张带来的成本压力也可能得到缓解。
附近消息
全部10/14 17:00
Netzilo AI Edge 将 Agent 治理从终端延伸至 SaaS,推出 Drift Control
Netzilo 宣布其 AI Edge 产品把 AI Agent 治理范围从终端扩展到 SaaS,并同步推出基于 System One Models 的 Drift Control 能力。这项更新面向需要在多种运行环境中保持智能体行为可控与可审计的企业用户。
10/14 16:48
字节 Seed 单设安全部门,模型发布前的风险评估被提到台前
全天候科技报道,字节跳动在大模型团队 Seed 下单独设立安全部门,把模型发布前的风险评估提到台前。这一调整意味着安全评估正从后台流程走向模型上线前的关键环节。
10/14 17:49
NanoPrompts 推出面向 Google Gemini 的即用型提示词库
据 StreetInsider 报道,NanoPrompts 正式发布一套面向 Google Gemini 的即用型提示词库,主打开箱可用、无需自行调试。在模型能力逐步趋同的背景下,提示词与工作流套件正成为工具层厂商争夺用户的落点。
10/14 16:00
破解后的PS5跑起270亿参数大模型,开源项目PS5LM把游戏机变成本地AI服务器
一个名为PS5LM的开源项目让破解后的PlayStation 5变成了可用的本地AI服务器,不需要云端账单,也不需要游戏PC。项目把llama.cpp移植到主机上,让阿里巴巴Qwen团队的Qwen3.8-27B跑在PS5的GPU上,实测生成速度约每秒20个token。