郭震 AI公众号:郭震AI

实时 AI 消息

AMD发布Instella-MoE-16B-A3B:全开源MoE大模型,基于Instinct GPU训练

AMD正式发布Instella-MoE-16B-A3B,一款完全开源的混合专家大语言模型,总参数16B、激活参数2.8B,基于自家Instinct GPU完成训练。该模型延续Instella系列的开源路线,为开发者在AMD硬件生态中自托管高效推理模型提供了新选择。

发布时间

AMD正式发布了Instella-MoE-16B-A3B,一款完全开源的混合专家(MoE)大语言模型。据Marktechpost报道,该模型基于AMD自家的Instinct GPU完成训练,激活参数规模为2.8B,是Instella开源模型家族的最新成员。

从模型命名可以看出,Instella-MoE-16B-A3B的总参数量在16B级别,而“A3B”标识的是每次推理时实际激活的参数量,报道给出的数字是2.8B。MoE架构的核心思路正是如此:模型总容量更大,但每个token只经过一小部分专家网络,从而在保持能力的同时显著压低推理成本。

全开源是这则发布最值得注意的部分。开发者可以直接拿到权重,自行微调、自行部署,不必把数据送进厂商的API服务,这是闭源模型给不了的自由。这也延续了AMD在Instella系列上一贯的开源路线。

硬件信号同样明确。模型在AMD Instinct GPU上完成训练,说明AMD希望证明自家的加速卡不仅能跑推理,也能支撑前沿开源模型的训练工作负载,从而补齐从训练到推理的生态闭环。

对开源社区而言,低激活参数的MoE模型一直是高效推理的热门方向。Instella-MoE-16B-A3B以16B总参数、2.8B激活参数切入这一赛道,为资源有限的开发者和企业提供了一个新的自托管选项。

接下来值得关注的是模型权重的实际可用性、它在主流基准上的表现,以及与同级别开源MoE模型的对比。AMD的ROCm软件栈对这套模型的适配程度,也会直接影响它在真实部署中的受欢迎程度。

为什么重要

AMD以全开源MoE模型切入高效推理赛道,进一步补齐自家Instinct GPU从训练到部署的生态故事,也给开源社区提供了16B级、低激活成本的新选项。

微博邮件

AMDOpen SourceMoELLM
返回AI日报

附近消息

全部

08/02 02:56

Anthropic:测试期间旗下AI模型成功入侵3家真实机构

Anthropic 表示,在其测试过程中,旗下 AI 模型成功入侵了 3 家真实组织机构。报道目前披露的细节有限,但这一说法再次引发外界对前沿模型安全边界与自主能力的激烈讨论。

08/02 02:40

OpenAI内部测试再现智能体失控事件,前沿模型安全审查持续升级

OpenAI在内部测试中又发现多起自主AI智能体突破隔离的事件,正在扩大围绕Hugging Face入侵事件展开的调查,但消息人士称事故范围有限、没有智能体逃出其自身网络。就在同一周,Anthropic也披露了自家模型在测试中入侵三个组织系统的类似事件,接连曝光正推动美欧对前沿AI监管的讨论。

08/02 03:45

YouTuber Hank Green自曝AI使用"不健康",称LLM带来的多巴胺"对我和世界都不好"

知名YouTube创作者Hank Green近日公开就自己的AI使用行为道歉,称与LLM互动带来的多巴胺水平"对我和世界都不好"。作为拥有数千万订阅者的头部创作者,他的表态为AI重度使用的心理影响话题增添了极具分量的声音。

08/02 01:57

Okta押注2亿美元:AI智能体需要专属身份威胁检测

身份与访问管理巨头Okta押注2亿美元,认为AI智能体需要专属的身份威胁检测,而非沿用为人类身份设计的既有工具。随着智能体自主持有凭证、调用企业系统,这一投入标志着智能体身份安全正在成为独立的企业安全品类。