AWS TorchNeuron 於 2026 年 10 月 20 日推出公開測試版,讓開發者能在 Amazon 的 Trainium 晶片上原生執行 PyTorch AI 模型。這款開源軟體旨在減少將現有 AI 程式碼移植到 AWS 硬體所需的工作,同時保留開發者熟悉的工具。

重點摘要

  • TorchNeuron 已針對 Amazon EC2 Trainium2 和 Trainium3 執行個體開放公開測試版。
  • AWS 表示,開發者只需少量修改,即可啟用 Trainium 執行,同時保留標準 PyTorch 相容性。
  • 自訂運算子支援讓開發者在初步移植之外,還能進一步調校效能。

目錄

AWS TorchNeuron 降低軟體移植門檻

將 AI 工作負載移至不同晶片,可能需要同時調整軟體與硬體。TorchNeuron 作為 Trainium 的原生 PyTorch 後端,旨在克服這項障礙;Trainium 是 Amazon 用於 AI 訓練與推論的一系列晶片。

AWS 的公開測試版公告指出,開發者只需切換至 .to('neuron'),即可讓 PyTorch 程式碼在 Trainium 上執行。該公司表示,這個後端與標準 PyTorch 程式介面、急切執行模式及 torch.compile 保持相容,讓開發者能沿用熟悉的模型建構與執行方式。

實際差異在於,採用新硬體與為其重寫應用程式是兩回事。若能減少所需的軟體修改,Trainium 的評估門檻可能會降低,不過公告並未量化移植所需時間的節省或客戶成本的降低幅度。

項目詳情
推出日期2026 年 10 月 20 日
發布狀態公開測試版
支援的執行個體Amazon EC2 Trainium2 和 Trainium3
執行相容性急切執行模式、torch.compile 和標準 PyTorch API
進階最佳化整合 Neuron Kernel Interface,以支援自訂運算子

開源版本包含效能調校工具

TorchNeuron 也整合了 Neuron Kernel Interface,簡稱 NKI。這為開發者提供建立自訂運算子及針對 Trainium 硬體最佳化效能的工具,讓他們不必止步於基本相容性。

因此,這個版本提供兩種使用方式:一種是讓科學家與研究人員試用既有 PyTorch 模型的簡便途徑;另一種則是較底層的途徑,適合尋求硬體專屬最佳化的團隊。

AWS 已將這款軟體以開源形式提供給 Amazon EC2 Trainium2 和 Trainium3 執行個體使用。此次推出明確屬於公開測試版,並非宣布正式上市;該版本也未提供進入後續階段的時間表。

結論

眼下的下一步,是由開發者評估目前開放的公開測試版。這次發布建立了更簡便的 Trainium 使用途徑,但尚未證明可量化的節省幅度,也未公布正式上市日期。

閱讀更多新聞

更多 FinanceVelix 新聞

免責聲明

本文由 FinanceVelix 提供一般資訊,不構成個人化財務、投資、法律或稅務建議。市場價格、利率及經濟狀況可能變動;投資皆有損失風險。本文資訊反映發布時可取得的資料,且可能有所變動。請自行核實重要資訊,並在有需要時諮詢合格專業人士。提及任何資產、公司或服務均不代表背書。