郭震 AI公众号:郭震AI

实时 AI 消息

AI Agent Token消耗量接近人类用户5倍,2月以来增长14倍

PANews援引a16z的统计称,AI Agent对Token的消耗量自今年2月以来增长14倍,已远超人类用户,接近人类消耗量的5倍。这一数据表明,智能体正迅速成为大模型算力消耗的主要来源,AI应用的重心正从人机对话转向自动化执行。

发布时间

据PANews报道,风险投资机构a16z的统计显示,AI Agent对Token的消耗量自今年2月以来增长了14倍,已远超人类用户,接近人类用户消耗量的5倍。

Token是调用大模型时的基本计量单位,Agent消耗的Token越多,意味着智能体在执行多步任务、调用工具、反复推理时产生的算力开销越大。

这一增速反映出AI应用形态正从"人与模型对话"转向"智能体自主工作":Agent承担越来越多的编码、检索与流程执行任务,单次任务消耗的Token远高于普通聊天。

对模型提供商与算力产业链而言,Agent驱动的Token需求激增既是推理收入与算力扩张的机会,也对成本控制与定价模式提出新的考验。

接下来值得关注的是,这一趋势能否延续,以及模型厂商是否会针对Agent场景推出更高效的推理方案与新的计价方式。

为什么重要

Agent成为Token消耗主力,将重塑模型推理的成本结构,并进一步推高对算力与高效推理方案的需求。

微博邮件

AI AgentTokena16z
返回实时消息

附近消息

全部

08/24 09:43

OpenAI收购GitHub万星AI智能体创业公司,团队整体加入

OpenAI宣布收购一家在GitHub上拥有超过1万星标的AI智能体创业公司,这家被形容为"AI版Firebase"的项目的整个团队将正式加入OpenAI。这笔收购反映出OpenAI正通过吸纳热门开源开发者工具,加速补齐智能体生态的开发者基础设施。

08/24 07:19

前保安杀进AI决赛、高中生拿走25万:TRAE AI创造力大会总决赛落幕

TRAE AI创造力大会总决赛在上海落幕,3.7万人报名、1.4万件作品角逐出Top 20,《词元开物》《动作帧MotionFrame》《开源太空·卫星守望者》分获冠亚季军,最高奖金30万元。24岁前保安彭铭裕用TRAE两个月做出体感游戏《动动脖子》闯入20强,高二学生Kyle的AI羽毛球教练上线10天冲到热门榜第22名,AI编程门槛正在肉眼可见地降低。

08/24 05:53

报道:Hugging Face正在探讨出售,潜在估值达130亿美元

据《商业时报》报道,AI开源模型平台Hugging Face正在探讨出售事宜,潜在估值高达130亿美元。若交易达成,这将成为AI基础设施领域规模最大的并购案之一,也为开源AI平台的商业价值提供了重要标尺。

08/24 04:01

AI动态:Who’s behind the new ‘stealth model’ Ox Alpha?

据 techcrunch.com 消息,Who’s behind the new ‘stealth model’ Ox Alpha?。A mysterious new AI model called Ox Alpha has driven certain corners of the internet into a frenzy of speculation.