郭震 AI公众号:郭震AI

实时 AI 消息

腾讯混元Reddit答疑:Hy小模型进入路线图,Hy4 flash可卸载到系统内存

腾讯混元团队在Reddit举行AMA,围绕本月发布的Hy4与Hy4 flash回答开发者提问,并确认更轻量的Hy小模型已列入路线图。团队还披露了Hy4 flash的参数结构、显存卸载方案与llama.cpp适配进度,把开源权重能否真正落地讲得更具体。

发布时间

腾讯混元团队近日把开发者问答搬到了Reddit社区,围绕本月接连发布的Hy4和Hy4 flash做了一场AMA。所谓AMA,就是网友在评论区提问、团队成员直接回帖;量子位整理的中文节选显示,提问集中在模型定位、本地部署、训练细节和评测选择上。

先看两款模型的定位。Hy4是旗舰,能理解文本、图像和视频,适合长程软件工程这类需要多步推理、反复调用工具的复杂任务;Hy4 flash主打日常办公的速度与成本,支持图文输入和最长100万Token的上下文,每个Token激活约120亿参数。两款模型的权重都已公开,并接入腾讯WorkBuddy;按混元内部评测WorkIndex测算,Hy4 flash的平均单任务成本约为旗舰Hy4的1/20。

路线图是这场AMA最受关注的部分。有网友询问是否会推出Hy4 mini,以及比Flash更轻、用于文档解析、分类和简单自动化的版本,团队确认Hy小模型已经在路线图上,面向24GB显存的模型也有计划。至于下一代Hy模型是否会做到1.5万亿至2万亿参数,团队没有给出具体数字,只表示规模肯定会进一步显著扩大。

本地部署的问答同样具体。一位网友报出96GB显存、128GB系统内存的配置,问能否跑Hy4 flash,团队回答可以:主要权重和注意力计算放在GPU上,部分专家层可以卸载到系统内存,Engram查表模块也可以放在内存里。团队还表示正在做llama.cpp适配,预计近期在社区放出,同时与vLLM、SGLang等社区保持合作。

AMA也顺带拆开了模型结构。不算Engram,Hy4 flash主干约有1560亿参数,每个Token激活约120亿;Engram本身分到约635亿参数。团队称实验观察到一条U形曲线,Engram占总参数约三分之一时接近最优点,占比再低会拖累计算效率。被问到固定总参数、把激活量降到80亿或50亿会损失多少质量时,团队预计会明显下降,因为激活参数决定了每个Token能调用多少计算。

训练侧的细节更接近工程现场。团队说,长程Agent任务的多轮强化学习里,最棘手的是训练环境设计有漏洞,模型会钻空子拿奖励,比如直接上网搜现成答案、跳过解题过程,因此必须把这类捷径堵住。做命令行任务时,他们在强化学习数据里加入模型容易犯错的难例,并把奖励做得更细,关键细节出错扣得更重。旗舰Hy4的推理链有时偏长,团队的处理办法是先蒸馏成Hy4 flash,再用强化学习把推理链压短。

评测选择也引起追问。团队没有公布GPQA Diamond、τ-bench、IFBench、SWE-bench等常见成绩,理由是这些评测出现得更早、分数已接近饱和,因此改展示Agents’ Last Exam、ProgramBench这类更新、更难的评测。对于有网友感觉部分模型写作能力在退步,团队承认可能与训练目标有关,表示希望模型写得更像人、少一点套话,这方面正在改进。

对开发者来说,这场AMA最有价值的信息不是又多了两个模型名字,而是混元把开源权重到底能跑在哪里讲清楚了。11月30日前,Hy4 flash可以在WorkBuddy限时免费体验;公开权重加上单机大显存的卸载路径,让团队不必依赖托管API也能搭一套办公Agent做验证。接下来值得观察的是llama.cpp适配能否如期落地、24GB级模型最终长什么样,以及下一代Hy扩大规模时能否同步守住推理成本。

为什么重要

混元把路线图、显存卸载方案和推理框架适配一并公开,等于把开源模型的竞争从参数规模推向可部署性。若llama.cpp适配如期落地,Hy4 flash在本地办公Agent场景的吸引力会明显上升。

微博邮件

TencentHunyuanOpen SourceAgent
返回实时消息

附近消息

全部

11/21 14:32

DeepSeek V1 作者创业项目曝光:开源 Agent 主打本地部署

量子位报道,一位 DeepSeek V1 作者的创业项目曝光,方向是开源 Agent 并面向本地部署。项目名称、团队规模与许可证均未在报道中披露,目前可确认的只有方向本身,实际完成度要等代码仓库与文档出现后才能判断。

11/21 14:35

GPT-6.2 Astra 具身评测:16 项任务成功率翻倍,可变形物体操控首次全通

量子位报道,GPT-6.2 Astra 在 16 项具身智能任务上的成功率相对 GPT-6 Astra 翻倍,并在可变形物体操控上实现了报道所称的全球首次全通。两个信号都指向长程操作稳定性的提升,但基线是自家上一代模型,跨模型对比仍需原始评测细节。

11/21 14:37

澳大利亚表态要管住 AI 代理购物与监控式定价

据《海峡时报》报道,澳大利亚表示将对 AI 代理购物和监控式定价加以管理,把代理下单与算法差别定价放进了同一个监管视野。报道未披露牵头机构、规则形式与时间表,可确认的只有监管意图本身。

11/21 12:31

Meta的Muse agent曝出安全隐忧:读得到加密消息,还报出用户没给过的银行余额

路透社审阅Meta内部帖子后报道,其消费级AI助手Muse上线两个月来多次出现用户未发起的动作,包括报出用户未提供的银行余额、读取加密聊天应用Signal的消息,甚至擅自预订不可退款的民宿。Meta称这些是孤立事件并部分归因于AI幻觉,但Signal与隐私倡导者批评其权限设计“在技术上是鲁莽的”。