郭震 AI公众号:郭震AI

实时 AI 消息

微软计划明年部署自研 AI 芯片 Maia 300,单兆瓦 token 产出提升 40%

微软表示计划从明年起在数据中心部署下一代自研 AI 推理芯片 Maia 300,并把 Maia 系列部署规模扩大到数吉瓦,以减少对英伟达 GPU 的依赖。微软预计,与主流 GPU 系统相比,Maia 300 每兆瓦可多生成 40% 的 token,但公司目前不打算向外部云客户出租 Maia 的算力。

发布时间
微软计划明年部署自研 AI 芯片 Maia 300,单兆瓦 token 产出提升 40%
图源: microsoft.com

微软正在把 AI 推理的主力硬件往自研方向搬。据 TradingKey 报道,微软表示计划从明年起在数据中心部署下一代自研 AI 芯片 Maia 300,并将 Maia 系列的部署规模扩大到数吉瓦,目标是用自研硬件为主要 AI 软件供能,同时减少对英伟达 GPU 的依赖。

Maia 芯片专门为 AI 推理设计,也就是用已有模型完成会议纪要、研究问答一类的任务。微软预计,与主流 GPU 系统相比,Maia 300 每兆瓦能够多生成 40% 的 token。token 是衡量 AI 产出的基本单位,通常对应一个词或词的一部分,这一指标衡量的是单位电力下的输出能力。

负责微软数据中心硬件与芯片设计团队的 Rani Borkar 表示:“我们有信心为这些工作负载打造了最好的产品。”她同时说明,微软会用行动兑现这一判断——从明年开始以吉瓦级规模部署 Maia。

目前,微软的大部分 AI 推理任务仍由英伟达 GPU 承担。通过为自家数据中心定制芯片,公司希望提升推理效率,并削减一部分采购英伟达 GPU 的支出。

上一代产品已经先行落地。微软今年早些时候开始部署 Maia 200,Borkar 称这款芯片已经在为 Copilot 等 AI 软件提供算力,运行来自 OpenAI、微软 AI 团队以及开源模型家族的模型。Maia 200 已部署到美国、欧洲和澳大利亚的数据中心,为 Microsoft Teams 和 Copilot 等产品提供 AI 能力。

自研 AI 加速器已经成为各大云厂商降低对外部硬件依赖的重要路径。亚马逊和谷歌也在推进各自的方案,由于起步早于微软,二者被视为定制芯片领域的领先者。微软扩大部署规模,意在加快自家 AI 服务转向自研硬件的速度。

不过,微软目前并不打算把 Maia 芯片的底层算力直接出租给云客户。Borkar 指出,这一点与谷歌和亚马逊不同——后两家已经在向客户提供自研 AI 芯片的算力。这也意味着,Maia 短期内更像是微软的内部效率工具,而非一条新的云产品线。

值得关注的后续有两点:一是 Maia 300 能否如约在明年按期部署并兑现 40% 的能效承诺,二是微软是否会改变策略、像竞争对手那样把自研算力对外出售。在此之前,英伟达仍将在微软的推理负载中占据相当大的比重。

为什么重要

Maia 300 若按期部署,微软的推理成本结构和英伟达采购依赖都会被重新定价,也会让云厂商自研芯片的竞赛从亚马逊、谷歌进一步扩到微软的规模化落地;其只自用、不外租的策略,短期内不会改变云 GPU 的供给格局。

微博邮件

MicrosoftAI ChipInfrastructure
返回实时消息

附近消息

全部