实时 AI 消息
AWS发布TorchNeuron:改一行配置让PyTorch应用跑上Trainium
AWS于10月19日发布TorchNeuron开发工具,让用PyTorch编写的AI应用只需修改一行配置就能迁移到自研Trainium芯片,无需重写代码。亚马逊同时向PyTorch上游贡献去除芯片绑定代码的改动,直接冲击英伟达CUDA长期构筑的软件护城河。

亚马逊云科技(AWS)周一发布了一款名为TorchNeuron的开发工具,目标很明确:让AI创业公司更容易把用PyTorch写的应用搬到亚马逊自研的AI芯片Trainium上。TechCrunch报道称,这是亚马逊迄今为止对英伟达软件优势最直接的一次挑战。
按照AWS的说法,TorchNeuron与PyTorch配合使用,开发者只需改动一行配置,就能让原本为PyTorch编写的AI应用跑在Trainium上,不需要重写代码。TorchNeuron本身改编自PyTorch,因此熟悉PyTorch的开发者可以直接上手。
这项工具针对的是英伟达最深的护城河——CUDA。亚马逊称约85%的AI应用用PyTorch编写,而英伟达多年来持续确保CUDA无缝支持PyTorch应用,使自家硬件几乎成为默认选项。
亚马逊并非第一家尝试把其他芯片接入PyTorch的公司。报道指出,PyTorch用户同样可以通过简单的配置改动,把应用移植到AMD GPU甚至苹果芯片上。AWS的差异化说法是:迁移到Trainium不只是方便,还能直接接入亚马逊完整的云服务。
AWS Annapurna Labs技术软件副总裁Colin Brace在邮件中表示:“你是在AWS上构建,而不是押注一个单一用途的计算供应商,然后再手忙脚乱地在周围搭建其他一切。”他称在AWS上,从原型到生产所需的基础设施已经就绪,创始人可以快速推进并按需扩展。
AWS还强调,Trainium同一颗芯片同时承担训练和推理,并与创业公司需要的云基础设施紧密集成,因此即便每token价格不是最低,整体工作负载的经济性也更好。Brace以语音AI公司Deepgram为例,称其用原生PyTorch迁移到Trainium后,在保持生产级准确率的同时,每美元处理的音频量提升了70%。
更值得关注的是,亚马逊表示会把相关代码回馈给PyTorch主项目,与社区合作移除将框架绑定到特定芯片的代码,让PyTorch对整个开发者社区都更加硬件无关,而不只是服务Trainium用户。
这一策略对销售英伟达替代硬件的厂商显然是利好,但也带来疑问:PyTorch原本的意义之一就是替开发者屏蔽硬件适配的麻烦。亚马逊能否真正削弱英伟达在框架层的绑定,还是只给开发者增加更多配置负担,仍需观察。
如果亚马逊成功让PyTorch与英伟达深度解耦,其影响可能远超芯片层面的竞争。正如Brace所说:“真正的故事是移除那个让开发者根本无法做出真正选择的锁定。”
为什么重要
这意味着云厂商对英伟达的挑战正从芯片层延伸到框架层:一旦PyTorch对硬件更加中立,AI公司更换加速器的迁移成本会显著下降,英伟达的CUDA锁定效应可能被削弱。
附近消息
全部10/20 04:01
美国土安全部下令联邦民事机构从IT系统中移除DeepSeek
美国国土安全部10月19日发布通知,要求联邦民事机构从IT系统中移除DeepSeek产品及基于该模型的第三方服务,并禁止采购。DHS以敏感数据可能流向中国、模型可能含恶意代码等风险为由,此举是特朗普政府收紧对华科技限制的最新一步。
10/20 04:19
Circle与Proof演示AI代理证明身份并用USDC付款
Circle与Proof在周一发布的新闻稿中演示了一套流程:AI代理通过Proof的x401协议出示经核验的身份凭证,再通过x402协议从Circle Agent Wallet用USDC完成支付。两家公司希望让商家在确认代理代表谁、是否获得授权之后,愿意接受代理发起的交易,而不是直接封堵。
10/20 03:28
OpenCode 平台遭入侵,1.4% 用户 API 密钥泄露并被刷爆账单
开源 AI 编程智能体 OpenCode 披露其在线平台 OpenCode Console 遭入侵,1.4% 用户的 API 密钥可能泄露,多名开发者报告账户被刷出数百至上千美元费用。Anthropic 与 Google 已封禁相关密钥、OpenAI 与 OpenCode 正在退款,而团队在防御过程中遭遇前沿模型安全过滤拒答,把「护栏反噬」推上了公开讨论。
10/20 03:27
德国要与英伟达共建工业AI:柏林签署联合意向声明,四家德国初创获投资
10月19日,德国总理默茨与英伟达CEO黄仁勋在柏林对话工业AI路线图;同日德国联邦政府与英伟达签署面向物理AI的联合意向声明。黄仁勋还宣布对Agile Robots等四家德国初创公司的投资计划,以及与西门子在自主工厂方面的合作。