郭震 AI公众号:郭震AI

实时 AI 消息

智谱实现10万颗国产AI芯片推理,称不用NVIDIA显卡可降低80% AI成本

智谱已将推理负载部署到10万颗国产AI芯片上,并宣称在不用NVIDIA显卡的情况下可将AI成本降低80%。这标志着国产AI加速器正从备选方案走向大规模生产级部署,也反映出国内AI算力自主化进程明显提速。

发布时间

智谱表示,其推理业务已部署到10万颗国产AI芯片上,并称在不用NVIDIA显卡的情况下可将AI成本降低80%。这一消息由国内科技媒体驱动之家报道,将国产芯片的大规模部署描述为降低AI模型运行成本的一条可行路径。

10万颗芯片的量级之所以重要,是因为国产AI加速器过去通常被视为受生态和工具链差距制约的备选方案,而非可承担生产级负载的主力平台。

作为国内头部大模型公司之一,智谱愿意把推理负载放到这一规模的国产硬件上,说明国产AI供应链正在从设计阶段走向规模落地,国产芯片不再是实验室里的选项,而是实际生产环境的组成部分。

如果这一降本幅度能在生产中兑现,将显著改变国内AI公司在先进NVIDIA硬件获取受限背景下的模型服务成本结构,让更多企业有能力把大模型推理投入常态化运营。

这一动向也反映出更广泛的行业趋势:中国AI生态正在加速构建不依赖NVIDIA路线的自主算力基础设施,头部模型厂商的规模化采用是其中关键的一环。

后续值得关注的是具体涉及哪些国产芯片厂商、哪些模型以及实际部署场景,因为标题性表述尚未披露真实吞吐、延迟与总拥有成本等关键指标,这些数据将决定这一路线能否被更多公司复制。

为什么重要

若80%的降本幅度在生产中兑现,将重塑国内AI模型服务的成本结构,并加速国产算力基础设施的规模化采用。

微博邮件

ZhipuDomestic AI ChipsInfrastructure
返回实时消息

附近消息

全部