Amazon TorchNeuron旨在让公司旗下的AI芯片更容易被采用,使现有PyTorch应用只需更改一次配置即可在AWS Trainium上运行。在2026年10月20日的公告中,Amazon表示,该软件将以开源项目形式发布,目标是降低软件壁垒;这种壁垒可能导致开发者切换芯片平台的成本高昂。
要点
- Amazon表示,现有PyTorch代码无需重写即可在Trainium上运行。
- 计划中的开源版本支持Trainium2和Trainium3芯片。
- 迁移更便捷或可增强Amazon对Nvidia的竞争,但该公告并未证明其在成本或性能方面具有广泛优势。
目录
Amazon TorchNeuron聚焦软件可移植性
Amazon对TorchNeuron的介绍称,该软件是一个原生PyTorch后端,可将广泛使用的AI框架连接至Trainium。开发者无需针对不同硬件重构应用,只需更改一项设置,指定代码应使用哪种芯片。
Amazon表示,TorchNeuron使用PyTorch现有的硬件注册机制,因此熟悉的测试、调试和扩展工具无需修改即可用于Trainium。在一项公司演示中,同一训练脚本分别在传统芯片和Trainium上运行;Amazon称,该模型以相同速度学到了相同内容。
这项演示为Amazon在所展示工作负载上的可移植性主张提供了支持,但并未证明所有应用都能达到相同性能,也未量化客户可节省的成本。
| 项目 | 详情 |
|---|---|
| 支持的处理器 | AWS Trainium2和Trainium3 |
| 计划采用的许可证 | Apache 2.0 |
| 分布式训练 | 与TorchTitan和Fully Sharded Data Parallelism集成 |
| 开发工具支持 | Amazon表示,Hugging Face已启用对Trainium的原生支持 |
开发者切换成本影响对Nvidia的竞争
竞争焦点不只是芯片规格。Nvidia的CUDA软件帮助开发者针对其图形处理器优化AI工作负载,因此,相关软件生态也是硬件能否被采用的重要因素。
降低迁移应用所需的工程工作量,可能让云客户在选择计算基础设施时拥有更大灵活性。对于已经使用PyTorch、但不愿维护一套差异显著的代码库的团队而言,这也可能让Amazon的处理器更容易使用。
Amazon列举了语音AI、药物发现及其他应用领域的早期用户。该公司表示,Cartesia仅对PyTorch代码作了少量更改,便运行了其标准推理流程;Lieber Institute for Brain Development则正在探索在Trainium上运行基于AI的研究工作负载。这些案例表明已有早期使用,但并不能衡量全行业的采用情况。
开源发布是下一项已公布的里程碑
Amazon计划于10月20日在PyTorch Conference North America上,以Apache 2.0许可证发布TorchNeuron。所提供的公告称该版本计划发布,并未确认发布已经完成。
该公司还在向PyTorch贡献修改,旨在减少对特定硬件的依赖。这项工作将努力范围从Trainium兼容性扩展到降低该框架对个别芯片平台的依赖。
结论
Amazon着眼于更换AI硬件所涉及的工程工作,而不是宣称已在性能上确立对Nvidia的优势。其下一项已公布的里程碑是10月20日开源发布,届时开发者将能够更广泛地检查和测试该软件。
阅读更多新闻
免责声明
本文由FinanceVelix发布,提供一般信息,不构成个性化财务、投资、法律或税务建议。市场价格、利率和经济状况可能发生变化;投资存在亏损风险。文中事实反映发布时可获得的资料,之后可能发生变化。请独立核实重要信息,并在需要时咨询合格的专业人士。提及任何资产、公司或服务均不构成推荐。




