郭震 AI公众号:郭震AI

实时 AI 消息

无问芯穹发布PDD跨集群推理架构:首Token延迟降低51.5%,成本直降37.5%

无问芯穹在2026 WAIC上首次公布的跨集群异构推理架构PDD现已发布完整技术报告。该架构将传统PD分离链路创新解构为三层,在80Gbps广域网以太网环境下实现了首Token延迟降低51.5%、单Token成本降低37.5%的实测效果。

发布时间

在AI推理成本和效率成为行业生死线的当下,无问芯穹交出了一份颇具分量的答卷。

为什么重要

PDD架构以低成本的广域网以太网串联多地存量集群,大幅降低了AI推理的硬件门槛和运营成本。

微博邮件

无问芯穹推理架构AI基础设施PD分离
返回实时消息

附近消息

全部