实时 AI 消息
微软计划明年部署自研 AI 芯片 Maia 300,单兆瓦 token 产出提升 40%
微软表示计划从明年起在数据中心部署下一代自研 AI 推理芯片 Maia 300,并把 Maia 系列部署规模扩大到数吉瓦,以减少对英伟达 GPU 的依赖。微软预计,与主流 GPU 系统相比,Maia 300 每兆瓦可多生成 40% 的 token,但公司目前不打算向外部云客户出租 Maia 的算力。
微软正在把 AI 推理的主力硬件往自研方向搬。据 TradingKey 报道,微软表示计划从明年起在数据中心部署下一代自研 AI 芯片 Maia 300,并将 Maia 系列的部署规模扩大到数吉瓦,目标是用自研硬件为主要 AI 软件供能,同时减少对英伟达 GPU 的依赖。
Maia 芯片专门为 AI 推理设计,也就是用已有模型完成会议纪要、研究问答一类的任务。微软预计,与主流 GPU 系统相比,Maia 300 每兆瓦能够多生成 40% 的 token。token 是衡量 AI 产出的基本单位,通常对应一个词或词的一部分,这一指标衡量的是单位电力下的输出能力。
负责微软数据中心硬件与芯片设计团队的 Rani Borkar 表示:“我们有信心为这些工作负载打造了最好的产品。”她同时说明,微软会用行动兑现这一判断——从明年开始以吉瓦级规模部署 Maia。
目前,微软的大部分 AI 推理任务仍由英伟达 GPU 承担。通过为自家数据中心定制芯片,公司希望提升推理效率,并削减一部分采购英伟达 GPU 的支出。
上一代产品已经先行落地。微软今年早些时候开始部署 Maia 200,Borkar 称这款芯片已经在为 Copilot 等 AI 软件提供算力,运行来自 OpenAI、微软 AI 团队以及开源模型家族的模型。Maia 200 已部署到美国、欧洲和澳大利亚的数据中心,为 Microsoft Teams 和 Copilot 等产品提供 AI 能力。
自研 AI 加速器已经成为各大云厂商降低对外部硬件依赖的重要路径。亚马逊和谷歌也在推进各自的方案,由于起步早于微软,二者被视为定制芯片领域的领先者。微软扩大部署规模,意在加快自家 AI 服务转向自研硬件的速度。
不过,微软目前并不打算把 Maia 芯片的底层算力直接出租给云客户。Borkar 指出,这一点与谷歌和亚马逊不同——后两家已经在向客户提供自研 AI 芯片的算力。这也意味着,Maia 短期内更像是微软的内部效率工具,而非一条新的云产品线。
值得关注的后续有两点:一是 Maia 300 能否如约在明年按期部署并兑现 40% 的能效承诺,二是微软是否会改变策略、像竞争对手那样把自研算力对外出售。在此之前,英伟达仍将在微软的推理负载中占据相当大的比重。
为什么重要
Maia 300 若按期部署,微软的推理成本结构和英伟达采购依赖都会被重新定价,也会让云厂商自研芯片的竞赛从亚马逊、谷歌进一步扩到微软的规模化落地;其只自用、不外租的策略,短期内不会改变云 GPU 的供给格局。
附近消息
全部10/13 02:53
Descartes 发布 Agent Control Plane,让 AI 智能体在供应链流程中协调作业
供应链软件厂商 Descartes Systems Group 推出 Agent Control Plane,将 Descartes 全球物流网络(GLN)的数据与连接能力同其各条产品线结合起来,让 AI 智能体跨应用、跨贸易伙伴协调工作。在 Descartes 创新论坛的主题演示中,一个订单经由 4 家代表企业、15 款 Descartes 产品与 28 个流程步骤流转,人类仍在关键决策点上保留最终判断权。
10/13 03:36
Anthropic 的 AI 在未破谋杀案中提交虚假线索
据 Gizmodo 报道,Anthropic 的人工智能在一个尚未侦破的谋杀案中提交了一条虚假线索,引发广泛关注。事件让外界重新审视 AI 系统介入现实执法流程、以及模型可靠性边界的问题。
10/13 01:56
Meta 发布首款前沿模型 Muse Wonder
Meta 于周一发布其首款前沿模型,一次性推出 Muse Wonder 与 Muse Wonder Full 两款新模型。据 TradingKey 引述扎克伯格的说法,新模型的基准测试明确以 OpenAI 与 Claude 为目标。
10/13 01:19
WindBorne 获美国空军近 5000 万美元合同
硅谷初创公司 WindBorne 凭借气象气球与 AI 天气预报技术,赢得了一份价值近 5000 万美元的美国军方合同。这笔来自美国空军的订单,显示 AI 驱动的高空观测数据正在进入国防采购视野。