郭震 AI公众号:郭震AI

实时 AI 消息

AMD发布Instella-MoE-16B-A3B:全开源MoE大模型,基于Instinct GPU训练

AMD正式发布Instella-MoE-16B-A3B,一款完全开源的混合专家大语言模型,总参数16B、激活参数2.8B,基于自家Instinct GPU完成训练。该模型延续Instella系列的开源路线,为开发者在AMD硬件生态中自托管高效推理模型提供了新选择。

发布时间

AMD正式发布了Instella-MoE-16B-A3B,一款完全开源的混合专家(MoE)大语言模型。据Marktechpost报道,该模型基于AMD自家的Instinct GPU完成训练,激活参数规模为2.8B,是Instella开源模型家族的最新成员。

从模型命名可以看出,Instella-MoE-16B-A3B的总参数量在16B级别,而“A3B”标识的是每次推理时实际激活的参数量,报道给出的数字是2.8B。MoE架构的核心思路正是如此:模型总容量更大,但每个token只经过一小部分专家网络,从而在保持能力的同时显著压低推理成本。

全开源是这则发布最值得注意的部分。开发者可以直接拿到权重,自行微调、自行部署,不必把数据送进厂商的API服务,这是闭源模型给不了的自由。这也延续了AMD在Instella系列上一贯的开源路线。

硬件信号同样明确。模型在AMD Instinct GPU上完成训练,说明AMD希望证明自家的加速卡不仅能跑推理,也能支撑前沿开源模型的训练工作负载,从而补齐从训练到推理的生态闭环。

对开源社区而言,低激活参数的MoE模型一直是高效推理的热门方向。Instella-MoE-16B-A3B以16B总参数、2.8B激活参数切入这一赛道,为资源有限的开发者和企业提供了一个新的自托管选项。

接下来值得关注的是模型权重的实际可用性、它在主流基准上的表现,以及与同级别开源MoE模型的对比。AMD的ROCm软件栈对这套模型的适配程度,也会直接影响它在真实部署中的受欢迎程度。

为什么重要

AMD以全开源MoE模型切入高效推理赛道,进一步补齐自家Instinct GPU从训练到部署的生态故事,也给开源社区提供了16B级、低激活成本的新选项。

微博邮件

AMDOpen SourceMoELLM
返回实时消息

附近消息

全部