AWS TorchNeuron 于 2026 年 10 月 20 日开启公开测试,为开发者提供了一种在 Amazon 的 Trainium 芯片上原生运行 PyTorch AI 模型的方式。这款开源软件旨在减少将现有 AI 代码迁移至 AWS 硬件所需的工作,同时保留开发者熟悉的开发工具。

要点

  • TorchNeuron 已面向 Amazon EC2 Trainium2 和 Trainium3 实例开放公测。
  • AWS 表示,开发者只需进行少量修改即可启用 Trainium 执行,同时保留与标准 PyTorch 的兼容性。
  • 对自定义算子的支持,为开发者提供了在初步迁移之外进一步调优性能的途径。

目录

AWS TorchNeuron 降低软件迁移门槛

将 AI 工作负载迁移到不同芯片上,可能不仅需要更换硬件,也需要修改软件。TorchNeuron 通过充当 Trainium 的原生 PyTorch 后端来解决这一障碍。Trainium 是 Amazon 面向 AI 训练和推理推出的芯片系列。

AWS 的公开测试公告称,开发者可以通过切换至 .to('neuron') 将 PyTorch 代码交由 Trainium 执行。该公司表示,这一后端兼容标准 PyTorch 编程接口、即时执行和 torch.compile,使开发者能够继续使用熟悉的方式构建和运行模型。

实际区别在于,采用新硬件与为其重写应用并非一回事。减少所需的软件改动可能有助于降低评估 Trainium 的难度,但公告并未量化迁移时间的节省或客户成本的降低幅度。

项目详情
发布日期2026 年 10 月 20 日
发布状态公开测试
支持的实例Amazon EC2 Trainium2 和 Trainium3
执行兼容性即时执行、torch.compile 和标准 PyTorch API
高级优化集成 Neuron Kernel Interface,以支持自定义算子

开源版本包含性能调优工具

TorchNeuron 还集成了 Neuron Kernel Interface,简称 NKI。借助该接口,开发者可以创建自定义算子,并针对 Trainium 硬件优化性能,而不只是实现基本兼容。

因此,该版本提供了两种使用层次:一种是更简单的路径,适合使用现有 PyTorch 模型进行试验的科学家和研究人员;另一种则是更底层的路径,面向寻求硬件专属优化的团队。

AWS 已将该软件作为开源软件提供,适用于 Amazon EC2 Trainium2 和 Trainium3 实例。此次发布明确处于公开测试阶段,并非宣布正式全面上市;该版本也未提供进入后续阶段的时间表。

结论

开发者接下来的直接步骤是评估现有公开测试版。此次发布为用户提供了一条更简单的 Trainium 上手路径,但目前尚未证明可量化的节省,也未公布正式全面上市日期。

阅读更多新闻

更多 FinanceVelix 新闻

免责声明

本文由 FinanceVelix 提供一般信息,不构成个性化金融、投资、法律或税务建议。市场价格、利率和经济状况可能发生变化;投资存在亏损风险。文中事实反映发布时可获得的材料,且可能发生变化。请独立核实重要信息,并在需要时咨询合格的专业人士。提及任何资产、公司或服务均不构成认可或推荐。