实时 AI 消息
智谱发布新模型,推理速度达490 tokens/s
据聚合资讯平台 yeeyi 报道,智谱推出了一款新模型,并强调其推理吞吐达到 490 tokens/s。在算力供给紧张、厂商竞相压低推理成本的当下,这一吞吐指标被视为其向高性能推理服务发力的直接信号。
据聚合资讯平台 yeeyi 报道,国产大模型厂商智谱推出了一款新模型,报道突出披露的推理吞吐达到 490 tokens/s。这一数字是本次消息中最核心的技术指标,也是智谱对外强调的主要卖点。
报道以智谱新模型、490 tokens/s 为题,篇幅相对简洁,没有展开模型的具体版本、参数规模或发布时间表。就目前公开的线索看,这更像是一次围绕推理性能的动作,而非对模型能力体系的完整说明。
tokens/s,即每秒生成的 token 数,是衡量大模型推理效率的关键指标之一。它直接关系到单位算力下能服务多少用户、单次请求响应有多快,也在很大程度上决定了 API 服务的成本结构与并发能力,因此常被厂商用作对外的卖点。
在国内大模型竞争进入拼落地、拼成本的阶段后,推理速度的重要性正在上升。模型能力差距逐渐收窄,谁能用更低的成本、更快的响应把服务跑起来,谁就更容易拿下企业客户和高并发场景。
智谱此次强调 490 tokens/s,可以看作是对这一趋势的回应。高速推理通常依赖模型结构优化、推理引擎改造与硬件适配的组合,但报道未披露其具体实现路径,相关技术细节仍有待官方说明。
对整个行业而言,推理效率的比拼正在成为继参数规模、榜单成绩之后的又一条竞争主线。当头部模型都能提供对多数场景而言够用的能力时,速度与成本就成为真正左右商业化落地的变量。
后续值得关注的是:智谱是否会公布该模型的具体版本与开放方式,490 tokens/s 是在何种硬件与并发条件下测得,以及这一速度能否转化为实际的产品与营收。在这些细节落地之前,该指标更多是一个方向性信号。
为什么重要
若 490 tokens/s 能在真实负载下稳定复现,智谱将在推理成本与并发能力上获得差异化卖点;国产大模型的竞争重心也会进一步从参数规模转向单位算力的服务效率。
附近消息
全部10/12 09:01
Meta 的 Muse AI 应用下载量下滑 8.1%,增长势头放缓
Meta 的 Muse AI 应用正失去增长动能,最新数据显示其下载量下滑了 8.1%。这一回落虽然幅度有限,却让外界开始重新审视这款消费级 AI 产品的用户获取能力。
10/12 08:49
白宫恢复英国对前沿AI模型的访问,17天冻结期结束
美国白宫已撤销一项限制英国接触前沿AI模型的指令,使双方围绕前沿模型安全测试的合作安排得以恢复。据Startup Fortune报道,这项冻结持续了整整17天,相关访问权限重新开放,事件在10月11日前后公开并持续引发关注。
10/12 10:43
新加坡金管局更新AI代理金融交易保障措施
新加坡金融管理局(MAS)更新了针对AI代理驱动金融交易的保障要求,以应对自主代理参与支付与交易带来的风险。此举显示监管机构正把治理范围从传统系统延伸到由AI代理直接执行的资金操作。
10/12 08:44
Coinbase CEO:微调通义千问模型提升欺诈防范能力
Coinbase首席执行官公开表示,公司通过对通义千问模型进行微调,提升了平台的欺诈防范能力。这一表态把开源权重模型在加密交易风控等核心业务中的实际价值,再次推到台前。