郭震 AI公众号:郭震AI

实时 AI 消息

Liquid AI发布LFM2.5-2.6B:2.6B参数端侧智能体模型,笔记本手机都能跑

Liquid AI在Hugging Face博客发布LFM2.5-2.6B,一个面向端侧部署的2.6B参数智能体模型,支持工具调用与多步工作流。官方称其推理速度最高达220 token/s、内存占用低于2.5GB,可在笔记本乃至手机上运行本地智能体,并已上线浏览器Demo。

发布时间
Liquid AI发布LFM2.5-2.6B:2.6B参数端侧智能体模型,笔记本手机都能跑
图源: huggingface.co

8月4日,Liquid AI在Hugging Face博客发布LFM2.5-2.6B,一个专为端侧部署打造的2.6B参数智能体模型。官方介绍称,该模型支持工具调用与多步工作流,目标是在笔记本电脑到手机等日常硬件上跑起能力完整的本地智能体。

这一尺寸定位让开发者可以把智能体部署到任何地方:数据留在设备端、隐私可控,同时不必为每次调用支付云端推理账单。官方称其与约4倍大小的模型在同一水平线上竞争,在工具使用、指令跟随和多步智能体任务上表现突出。

训练方面,LFM2.5-2.6B在大约34T token上完成预训练,中段训练把上下文窗口扩展到128K。后训练分四阶段进行:两轮侧重智能体数据的监督微调、按领域训练的专家教师模型、把多个教师蒸馏进单一学生的多域on-policy蒸馏(MOPD),以及在真实智能体框架内运行多轮强化学习的Agentic RL。

有意思的细节是,Agentic RL直接在OpenClaw、Hermes Agent等主流智能体框架中训练模型,让它适应不同工具、系统提示与多轮任务环境,从而提升实际部署中的兼容性。

基准测试中,官方把LFM2.5-2.6B与体积约4倍的模型对比,包括5.1B的gemma-4-E2B-it、8B的gemma-4-E4B-it、4.7B的Qwen3.5-4B和9.7B的Qwen3.5-9B。它在指令跟随基准上全部排名第一,工具使用也几乎全线领先,仅在BFCLv4上略输给9.7B的Qwen3.5;智能体任务上与Qwen持平、优于两款Gemma,但编码仍是更大模型的强项。

推理速度是这次发布的最大卖点:官方数据显示,在Apple M5 Max上解码速度达220 token/s,在AMD Ryzen AI Max+ 395上为113 token/s,内存占用低于2.5GB;即便在手机上也能以约30 token/s运行智能体。GPU高并发场景下接近每秒1.5万输出token,单张H100一天可产出约13亿token。

生态方面,模型发布首日即支持llama.cpp、MLX、vLLM、SGLang与ONNX等推理栈,transformers>=5.0.0即可加载,并上线了浏览器Demo。对于想把智能体塞进笔记本、手机和边缘设备的团队来说,LFM2.5-2.6B给出了一条低成本的本地化路径,接下来值得关注的是它在真实端侧工作流中的采用情况,以及Liquid AI是否会推出更大尺寸的版本。

为什么重要

小参数端侧智能体模型的竞争正在升温,LFM2.5-2.6B把本地跑Agent的成本又压低了一截,可能推动隐私敏感与成本敏感的行业加速采用端侧智能体。

微博邮件

Liquid AILFM2.5-2.6BAgentModel Release
返回实时消息

附近消息

全部

08/04 22:03

苹果扩大对OpenAI的商业机密调查:更多前员工或被指带走机密数据

苹果在8月4日提交的最新法庭文件中表示,其对OpenAI的商业机密调查范围已经扩大,并声称更多前员工可能留存或访问了苹果的机密信息。这一指控进一步加剧了两家科技巨头之间围绕人才流动与数据安全的争端。

08/04 21:52

AI智能体公司HappyRobot完成1.5亿美元C轮融资,加码物流与供应链场景

AI智能体公司HappyRobot宣布完成1.5亿美元C轮融资,资金将用于扩大其面向物流与供应链的AI智能体平台,据AI Insider报道。在智能体从通用助手走向行业落地的当口,这笔大额融资再次印证了垂直场景智能体受资本追捧的热度。

08/04 21:14

开源版“Claude Science”发布:零依赖、MIT协议,内置30多项科研Skills

据量子位报道,北京大学与元空AI Agent联合实验室发布了一款开源版“Claude Science”,采用MIT协议、零依赖设计,并内置30多项科研Skills。该项目为科研场景的AI智能体提供了一个可直接上手的开源方案。

08/04 21:00

Linux基金会与Open Secure AI联盟发布SAFE指南草案:把智能体安全事件变成全行业防护

在拉斯维加斯Black Hat大会开幕当天,Linux基金会发布SAFE(Shared AI Findings Exchange)指南征求意见稿,旨在把智能体AI安全事故转化为全行业共享防护。该指南由拥有120多家成员的Open Secure AI联盟工作组起草,NVIDIA、思科、CrowdStrike、Hugging Face与红帽等均参与其中。