实时 AI 消息
智谱实现10万颗国产AI芯片推理,称不用NVIDIA显卡可降低80% AI成本
智谱已将推理负载部署到10万颗国产AI芯片上,并宣称在不用NVIDIA显卡的情况下可将AI成本降低80%。这标志着国产AI加速器正从备选方案走向大规模生产级部署,也反映出国内AI算力自主化进程明显提速。
智谱表示,其推理业务已部署到10万颗国产AI芯片上,并称在不用NVIDIA显卡的情况下可将AI成本降低80%。这一消息由国内科技媒体驱动之家报道,将国产芯片的大规模部署描述为降低AI模型运行成本的一条可行路径。
10万颗芯片的量级之所以重要,是因为国产AI加速器过去通常被视为受生态和工具链差距制约的备选方案,而非可承担生产级负载的主力平台。
作为国内头部大模型公司之一,智谱愿意把推理负载放到这一规模的国产硬件上,说明国产AI供应链正在从设计阶段走向规模落地,国产芯片不再是实验室里的选项,而是实际生产环境的组成部分。
如果这一降本幅度能在生产中兑现,将显著改变国内AI公司在先进NVIDIA硬件获取受限背景下的模型服务成本结构,让更多企业有能力把大模型推理投入常态化运营。
这一动向也反映出更广泛的行业趋势:中国AI生态正在加速构建不依赖NVIDIA路线的自主算力基础设施,头部模型厂商的规模化采用是其中关键的一环。
后续值得关注的是具体涉及哪些国产芯片厂商、哪些模型以及实际部署场景,因为标题性表述尚未披露真实吞吐、延迟与总拥有成本等关键指标,这些数据将决定这一路线能否被更多公司复制。
为什么重要
若80%的降本幅度在生产中兑现,将重塑国内AI模型服务的成本结构,并加速国产算力基础设施的规模化采用。
附近消息
全部08/31 19:56
openKylin 3.0深化AI Agent整合,探索下一代计算生态
openKylin 3.0 深化了与 AI Agent 的整合,开始向下一代计算生态方向探索。这一动向表明,操作系统正从被动承载传统应用的平台,转向面向自主 AI 工作流的系统级能力。
08/31 19:02
索尼音乐与华纳起诉Anthropic,指控其窃取知识产权
索尼音乐与华纳两家唱片巨头已就知识产权窃取对AI公司Anthropic提起诉讼。这是音乐行业与AI实验室之间版权冲突持续升级的最新信号。
08/31 19:01
OpenAI测试按成果定价模式,AI计费方式或将生变
据NewsBytes报道,OpenAI正在测试一种基于成果(outcome)的AI定价模式。与传统的按用量计费不同,客户将按AI实际达成的结果付费。
08/31 18:40
AI 智能体广告引发品牌安全争议,Time 与 Ally Bank 成焦点
AI 智能体(AI Agent)广告正在引发品牌安全层面的争议,Time 与 Ally Bank 成为这一讨论的焦点。报道显示,随着智能体广告形态进入主流视野,广告主与媒体机构对品牌内容所处环境的风险顾虑明显上升。