郭震 AI公众号:郭震AI

实时 AI 消息

OpenAI与博通联合发布首款自研AI推理芯片Jalapeño

OpenAI与博通(Broadcom)联合推出名为Jalapeño的首款自研AI推理芯片,专门针对大语言模型推理优化,旨在降低对NVIDIA GPU的依赖。该芯片采用超大规模ASIC设计,开发周期仅9个月。

发布时间

OpenAI与半导体巨头博通(Broadcom)联合发布了名为Jalapeño的定制AI推理芯片,这是OpenAI首款自研芯片。该芯片专门针对大语言模型推理工作负载进行了优化,旨在降低OpenAI对NVIDIA GPU的依赖。

Jalapeño采用超大尺寸ASIC设计,博通在仅9个月的极短时间内完成开发。据多家媒体报道,该芯片在推理成本和能效比方面相比现有NVIDIA GPU方案有显著改善,有望将推理成本降低约50%。

此次芯片发布是OpenAI从纯模型公司向全栈AI基础设施提供商转型的关键一步。通过自研芯片,OpenAI可以直接控制AI工作负载最关键的计算环节,从长远来看有助于降低运营成本并优化模型推理效率。

值得注意的是,Jalapeño芯片的开发过程中利用了OpenAI自身的模型来加速设计和验证流程,展现了一种AI设计AI的新范式。这一方法大幅缩短了传统芯片设计周期。

分析人士指出,虽然Jalapeño短期内不会完全取代NVIDIA GPU在训练领域的地位,但它在推理环节的突破意味着AI基础设施格局正在发生变化。博通在定制芯片领域的地位也因此得到进一步强化。

随着Jalapeño的推出,OpenAI正式加入Google(TPU)、Amazon(Trainium/Inferentia)和Microsoft(Maia)的自研芯片阵营。这一趋势表明,领先的AI公司正越来越多地将芯片定制化视为核心竞争力。

为什么重要

OpenAI与博通的Jalapeño芯片标志着AI推理基础设施去NVIDIA化的加速,自研芯片正成为顶级AI公司的标准配置。

微博邮件

OpenAIBroadcomJalapeñoAI ChipInference
返回实时消息

附近消息

全部