实时 AI 消息
微软完成MAI-Base-2预训练:2.8万亿参数,称训练效率最高超DeepSeek 12倍
微软AI称已于10月15日完成自研基础模型MAI-Base-2的预训练,这是一个总参数2.8万亿、每token激活800亿参数的混合专家模型,用16,000块英伟达GB200 GPU训练38天。微软称其训练配方比DeepSeek-V4-Pro-Base的FLOPs效率高4.2至12.3倍,但模型仍处于后训练阶段,尚未公布发布计划。
据科技媒体tech-insider.org报道,微软AI表示已于10月15日完成自研基础模型MAI-Base-2的预训练。微软把这次训练称为一个转折点。
MAI-Base-2是一个混合专家(MoE)模型,总参数2.8万亿,每个token激活800亿参数。按照微软的说法,该模型在预训练阶段原生支持视觉,采用无编码器的视觉语言架构,也就是说图像理解是底座的一部分,而不是事后外挂。
训练细节披露得相当具体:16,000块英伟达GB200 GPU,时间跨度为2026年8月至9月,38天完成预训练。二级报道称训练语料约50万亿token,其中约18%是视觉数据,这与原生视觉的设计相符。
最受关注的不是跑分,而是效率。微软称其训练配方在四项留出评测上的FLOPs效率是DeepSeek-V4-Pro-Base的4.2至12.3倍,比自己的上一代MAI-Base-1高6.3至12.7倍;公司还表示MAI-Base-2在所有被测的开源权重模型上表现更好,同时强调省下来的算力被用在了更大的模型上。
报道另外提到,微软AI CEO Mustafa Suleyman在内部员工会上表示,早期测试显示MAI-Base-2在模式理解与预测任务上超过OpenAI GPT-5.6 Sol背后的基础模型,而使用的预训练算力约为对方的四分之一。
但需要明确的是,这不是一款已经发布的产品。模型仍在后训练阶段,微软尚未公布公开发布日期、定价,也没有基于它构建的成品聊天机器人;计划中的分发方式是通过Azure AI Foundry授权给合作伙伴。
把参数规模放到今年的坐标系里看,报道称Meta在10月早些时候发布的Muse Spark Open是8160亿参数的MoE模型,MAI-Base-2的总参数是它的三倍多,但每个token的激活比例更低,这一取舍显然是为了控制推理与部署成本。
这条消息之所以重要,是因为微软自2019年以来一直高度依赖OpenAI的模型。完成自研基础模型的预训练,是微软在长期依赖OpenAI之外补上自有模型栈关键一环的信号。
接下来的看点是:这些效率数据能否经得起第三方复现,模型何时结束后训练、真正对外可调用,以及它将如何通过Azure AI Foundry分发到合作伙伴手中。
为什么重要
微软多年来依赖OpenAI的模型,自研基础模型预训练完成意味着它正在补齐自有模型栈的关键一环。若效率数据经得起复现,前沿模型的竞争焦点将从参数规模进一步转向单位算力的产出效率。
附近消息
全部10/16 22:41
字节跳动组建AI安全团队,并启动全球招聘
据多家媒体报道,字节跳动已组建专门的AI安全团队,并启动面向全球的招聘,招聘范围不再局限于中国。这是中国大型AI公司在模型能力快速推进之后,开始在安全治理上投入固定人力、并为监管审视做准备的一个明确动作。
10/16 22:38
面壁智能发布大监督智能体,把审计监督能力装进AI原生底座
10月16日,面壁智能在北京中关村温泉科技园举行发布会,正式发布大监督智能体,把风险、内控、合规、审计、纪检整合成五位一体的监督能力。该产品由面壁智能与行业伙伴星火明智联合共创,基于MiniCPM系列基座模型,是7月WAIC期间面壁+行业伙伴计划的重要落地成果。
10/16 23:17
参与Kimi《Attention Residuals》论文的17岁少年陈广宇宣布离开月之暗面
南方都市报10月16日报道,00后开发者陈广宇10月15日在社交平台宣布已离开月之暗面Kimi团队,称过去一年在Kimi工作是最美好的时光。他今年3月以17岁深圳高中生的身份成为Kimi技术报告《Attention Residuals》的第一作者之一,该论文当时被马斯克点评为“让人印象深刻”。
10/16 23:21
日经:DeepSeek遭遇约五小时中断,V4-Pro与V4.1-Flash一度不可用
日经亚洲报道称,DeepSeek在当地时间周四8时至13时发生约五小时的服务中断,V4-Pro、V4.1-Flash模型与聊天服务一度不可用,公司尚未确认原因,部分说法指向算力资源不足。付费订阅用户已就10月8日至14日受影响的服务获得积分形式的补偿,中国媒体提到有3000元人民币的退款案例。