郭震 AI公众号:郭震AI

实时 AI 消息

Qwen 上架 2.4T 参数基座的 FP8 版本 Qwen3.8-2.4T-A95B-FP8

Qwen 在 Hugging Face 官方仓库上线了 Qwen3.8-2.4T-A95B-FP8,标注其基座为 Qwen3.8-2.4T-A95B 的量化版本,沿用 text-generation 流程与 safetensors 权重。以 2.4T 总参数、约 950 亿激活参数的 MoE 规格配上 8 位浮点权重,这次更新的重点落在可部署性而非新架构。

发布时间
Qwen 上架 2.4T 参数基座的 FP8 版本 Qwen3.8-2.4T-A95B-FP8
图源: huggingface.co

11 月 7 日,Qwen 在 Hugging Face 官方仓库上线了 Qwen3.8-2.4T-A95B-FP8。从仓库信息看,这是一个文本生成模型,使用 transformers 库,权重以 safetensors 格式发布,并明确标注其基座模型为 Qwen3.8-2.4T-A95B,属于该基座的量化版本。

仓库页面列出的标签包括 text-generation、conversational 与 qwen3_5_moe_text,许可证一栏写的是 other。抓取时该模型已累计 9297 次下载和 261 个点赞,说明权重上架后很快进入了实际下载与试用环节,而不只是停在公告层面。

型号名本身给出了关键参数:2.4T 指总参数量约 2.4 万亿,A95B 表示每个 token 大约激活 950 亿参数,这是典型的混合专家(MoE)设计;FP8 则代表权重以 8 位浮点精度存储。换句话说,这次上架的不是一个新架构,而是旗舰基座的官方低精度版本。

官方亲自发布 FP8 权重,指向的是部署侧的现实问题。对自建推理服务的团队来说,同样的机器能放下更大的模型,或用更少的卡承载同样的流量,这是比参数规模更直接的账本;官方版本至少把这部分取舍收进了自己的验证流程,而不是留给使用者试错。

这也延续了今年开源旗舰的节奏:万亿级 MoE 模型不再只是论文里的配置,而是以可直接下载的权重形式出现在公共仓库里。开放权重与闭源前沿之间的差距,正在从“有没有”变成“部署得起不起、用得起不起”。

需要留意的是许可证。other 并非 Apache 或 MIT 这类标准宽松许可,打算商用的团队应回到仓库核对具体条款,确认调用方式、再分发与署名要求,而不是看到“开放权重”就默认可以随意使用。

接下来值得观察三件事:官方是否公布 FP8 相对未量化基座的精度对比;主流推理框架与云厂商多快给出开箱即用的支持;以及在 2.4T 这个体量上,社区实际跑出来的并发与单位成本会落在什么区间。

为什么重要

官方 FP8 权重把量化取舍前移到厂商侧,直接降低自建服务团队在同等硬件上跑万亿级 MoE 的门槛。需要留意的是许可证标注为 other,商用前必须核对条款。

微博邮件

QwenModel ReleaseOpen Source
返回实时消息

附近消息

全部

11/07 12:49

Perplexity 推出 Teammates:面向 Max 订阅者的常驻工作型智能体

Perplexity 上线 Teammates,一类面向长期、大规模工作的 AI 智能体,先在网页端向 Max 订阅用户开放,可 7×24 小时运行、彼此协作并通过 Slack 联系同事。它随 Max 订阅(每月 200 美元)提供,发布期免费,之后需消耗未披露数量的 credits。

11/07 11:43

一个纯文本 AGENTS.md 就能接管电脑:对 Codex 的攻击成功率超过 90%

安全机构 Forever Security 披露并复现了一种新攻击:网页可静默把 AGENTS.md 写入下载目录,开发者随后在该目录唤起 Codex 或 Claude Code 时,助手会把文件当指令执行。实测对 Codex 的攻击成功率超过 90%,对 Claude Code 约 50%,可导致关闭沙箱、植入恶意依赖乃至窃取登录 Token。

11/07 10:25

移卡集团高级副总裁朱楚中:AI Agent极大提升了跨境支付的风控能力 https://www.mrjjxw.com/

据 news.google.com 消息,移卡集团高级副总裁朱楚中:AI Agent极大提升了跨境支付的风控能力 https://www.mrjjxw.com/。移卡集团高级副总裁朱楚中:AI Agent极大提升了跨境支付的风控能力 https://www.mrjjxw.com/

11/07 09:44

OpenAI首席财务官:中期选举结果不改数据中心投资计划

OpenAI首席财务官Sarah Friar在接受CNBC采访时表示,尽管美国中期选举结果引发外界对AI基础设施政治风险的担忧,公司仍将继续投资建设AI数据中心。这一表态出现在选举后AI相关资产波动之际,显示OpenAI仍把算力扩张视为不可动摇的长期优先事项。