零GPU跑通DeepSeek满血版：国产超算"灵晟"纯CPU推理，16节点顶80张显卡

大模型推理"必须用GPU"的传统认知正被打破。据报道，全球排名第一的国产超算"灵晟"成功完成纯CPU架构下的MoE模型分布式推理部署，仅用16个计算节点即可流畅运行DeepSeek-V3/R1-671B满血模型。

在并发数batch_size=2048时，该超算的输出吞吐量与80张主流GPU组成的集群相当。这意味着纯国产CPU架构首次在大模型推理领域实现了对GPU集群的正面抗衡。

灵晟超算最独特之处在于其纯CPU架构路线：它没有采用堆砌GPU或专用加速卡的传统方案，而是在自研的LX2 CPU中直接集成了矩阵加速单元，支持多精度计算，让每颗CPU都能同时处理超算科学计算与AI推理任务。

这种片上融合的设计消除了CPU与加速卡之间数据搬移的开销。不过计算能力只是第一步，大模型推理的真正瓶颈在于内存带宽——模型参数需要频繁在计算单元和内存之间搬运。为此，LX2 CPU集成了首颗国产高带宽内存（HBM），总带宽达4TB/s，相比传统CPU内存带宽提升10倍。

搭配自研的"灵启"高速网络，该超算支持微秒级时延与10万节点组网，扫清了计算、带宽和通信三大障碍。

这一进展对国产算力生态意义重大：纯CPU路线为大模型推理提供了另一条不依赖GPU的国产化路径，也让"大模型算力不看显卡脸色"从口号变成可验证的工程实践。

当然，相关数据目前主要来自媒体报道，尚未看到灵晟超算方面发布的官方基准报告。接下来值得关注的是，这一纯CPU推理方案能否在更大规模的商用推理场景中复现，以及LX2 CPU与国产HBM的量产进度。