Amazon TorchNeuron旨在让公司旗下的AI芯片更容易被采用,使现有PyTorch应用只需更改一次配置即可在AWS Trainium上运行。在2026年10月20日的公告中,Amazon表示,该软件将以开源项目形式发布,目标是降低软件壁垒;这种壁垒可能导致开发者切换芯片平台的成本高昂。

要点

  • Amazon表示,现有PyTorch代码无需重写即可在Trainium上运行。
  • 计划中的开源版本支持Trainium2和Trainium3芯片。
  • 迁移更便捷或可增强Amazon对Nvidia的竞争,但该公告并未证明其在成本或性能方面具有广泛优势。

目录

Amazon TorchNeuron聚焦软件可移植性

Amazon对TorchNeuron的介绍称,该软件是一个原生PyTorch后端,可将广泛使用的AI框架连接至Trainium。开发者无需针对不同硬件重构应用,只需更改一项设置,指定代码应使用哪种芯片。

Amazon表示,TorchNeuron使用PyTorch现有的硬件注册机制,因此熟悉的测试、调试和扩展工具无需修改即可用于Trainium。在一项公司演示中,同一训练脚本分别在传统芯片和Trainium上运行;Amazon称,该模型以相同速度学到了相同内容。

这项演示为Amazon在所展示工作负载上的可移植性主张提供了支持,但并未证明所有应用都能达到相同性能,也未量化客户可节省的成本。

项目详情
支持的处理器AWS Trainium2和Trainium3
计划采用的许可证Apache 2.0
分布式训练与TorchTitan和Fully Sharded Data Parallelism集成
开发工具支持Amazon表示,Hugging Face已启用对Trainium的原生支持

开发者切换成本影响对Nvidia的竞争

竞争焦点不只是芯片规格。Nvidia的CUDA软件帮助开发者针对其图形处理器优化AI工作负载,因此,相关软件生态也是硬件能否被采用的重要因素。

降低迁移应用所需的工程工作量,可能让云客户在选择计算基础设施时拥有更大灵活性。对于已经使用PyTorch、但不愿维护一套差异显著的代码库的团队而言,这也可能让Amazon的处理器更容易使用。

Amazon列举了语音AI、药物发现及其他应用领域的早期用户。该公司表示,Cartesia仅对PyTorch代码作了少量更改,便运行了其标准推理流程;Lieber Institute for Brain Development则正在探索在Trainium上运行基于AI的研究工作负载。这些案例表明已有早期使用,但并不能衡量全行业的采用情况。

开源发布是下一项已公布的里程碑

Amazon计划于10月20日在PyTorch Conference North America上,以Apache 2.0许可证发布TorchNeuron。所提供的公告称该版本计划发布,并未确认发布已经完成。

该公司还在向PyTorch贡献修改,旨在减少对特定硬件的依赖。这项工作将努力范围从Trainium兼容性扩展到降低该框架对个别芯片平台的依赖。

结论

Amazon着眼于更换AI硬件所涉及的工程工作,而不是宣称已在性能上确立对Nvidia的优势。其下一项已公布的里程碑是10月20日开源发布,届时开发者将能够更广泛地检查和测试该软件。

阅读更多新闻

更多FinanceVelix新闻

免责声明

本文由FinanceVelix发布,提供一般信息,不构成个性化财务、投资、法律或税务建议。市场价格、利率和经济状况可能发生变化;投资存在亏损风险。文中事实反映发布时可获得的资料,之后可能发生变化。请独立核实重要信息,并在需要时咨询合格的专业人士。提及任何资产、公司或服务均不构成推荐。