AWS Trainium 接入 SGLang：覆盖 17 个模型，3 节点运行 Kimi-K3

据 FourWeekMBA 11月14日报道，SGLang 已支持 AWS 的 Trainium 芯片，覆盖 17 个模型，并能够在 3 个节点上运行 Kimi-K3。这组数字把关注点从能否运行，推进到了运行成本与部署密度。

SGLang 是面向大模型的推理服务框架，过去与 NVIDIA 的 GPU 生态绑定较深。它能落到 Trainium 上，意味着推理栈正在从单一硬件架构向多种加速器扩散，云厂商的自研芯片因此获得了更完整的软件供给。

报道给出的两个指标值得拆开看。17 个模型说明这不是单点适配，而是形成了一批可用的模型清单；3 个节点运行 Kimi-K3 则指向部署密度，节点数越少，单位推理的调度与通信开销通常越可控。

对 AWS 来说，Trainium 的竞争力从来不只取决于峰值算力，更取决于主流推理框架与模型能否开箱可用。SGLang 的支持补上的正是这一块：开发者不必为了换芯片重写整套服务逻辑。

对使用方而言，这类适配改变的是选型时的比较维度。此前在 Trainium 上跑推理往往需要更深的工程投入，框架层支持完善之后，价格与算力供给的稳定性会重新成为决定性因素。

需要说明的是，这篇报道以标题和简要说明为主，没有披露适配的完整模型名单与性能对比数据，也没有给出与 GPU 方案在吞吐或延迟上的对照。因此这些数字应被理解为覆盖范围与部署规模，而不是性能结论。

后续值得关注 SGLang 官方文档中的 Trainium 后端说明、更多模型的接入节奏，以及是否出现第三方复现的吞吐数据。推理硬件的竞争，最终会落在这些可验证的细节上。