Amazon TorchNeuron 旨在讓該公司的 AI 晶片更容易獲得採用,讓現有 PyTorch 應用程式只需變更一項設定,就能在 AWS Trainium 上執行。Amazon 在 2026 年 10 月 20 日的公告中表示,這款軟體將以開源專案形式發布,目標是排除軟體障礙,因為這類障礙可能導致開發者轉換晶片平台的成本高昂。

重點摘要

  • Amazon 表示,現有 PyTorch 程式碼無須重寫即可在 Trainium 上執行。
  • 計畫中的開源版本支援 Trainium2 和 Trainium3 晶片。
  • 更容易移轉可能強化 Amazon 對 Nvidia 的挑戰,但這項公告並未證明其在成本或效能方面具有廣泛優勢。

目錄

Amazon TorchNeuron 聚焦軟體可移植性

Amazon 對 TorchNeuron 的公告介紹了一款原生 PyTorch 後端,可將廣泛使用的 AI 框架連接至 Trainium。開發者無須為不同硬體重新打造應用程式,只需變更一項設定,指定程式碼應使用哪款晶片。

Amazon 表示,TorchNeuron 使用 PyTorch 既有的硬體註冊機制,讓熟悉的測試、除錯和擴充工具無須修改即可在 Trainium 上運作。在一項公司示範中,同一個訓練指令碼分別在一般晶片和 Trainium 上執行;Amazon 表示,模型學到的內容相同,學習速度也相同。

這項示範支持 Amazon 對所展示工作負載的可移植性主張,但無法證明所有應用程式都能達到同等效能,也未量化客戶可節省的成本。

項目詳情
支援的處理器AWS Trainium2 和 Trainium3
計畫採用的授權Apache 2.0
分散式訓練整合 TorchTitan 和 Fully Sharded Data Parallelism
開發工具支援Amazon 表示,Hugging Face 已啟用原生 Trainium 支援

開發者轉換成本左右對 Nvidia 的挑戰

競爭的關鍵不只在晶片規格。Nvidia 的 CUDA 軟體協助開發者針對其圖形處理器最佳化 AI 工作負載,使周邊軟體生態系成為硬體採用的重要因素。

降低將應用程式移轉至其他平台所需的工程工作,可能讓雲端客戶在選擇運算基礎設施時享有更大的彈性。這也可能讓 Amazon 的處理器更容易被已使用 PyTorch、但不想維護差異甚大的程式碼庫的團隊採用。

Amazon 指出,早期使用者涵蓋語音 AI、藥物探索及其他應用領域。Amazon 表示,Cartesia 只需對 PyTorch 程式碼進行極少修改,就能執行其標準推論流程;Lieber Institute for Brain Development 則正探索在 Trainium 上執行 AI 研究工作負載。這些案例反映的是早期使用情況,而非全產業的採用程度。

開源發布是下一個明確里程碑

Amazon 安排在 10 月 20 日的 PyTorch Conference North America 上,以 Apache 2.0 授權發布 TorchNeuron。所提供的公告將此發布描述為計畫,而非確認已完成發布。

Amazon 也正向 PyTorch 提交相關變更,旨在減少對特定硬體的依賴。這項工作將努力範圍從 Trainium 相容性擴大至讓該框架降低對個別晶片平台的依賴。

結論

Amazon 著眼於更換 AI 硬體所需的工程工作,而非宣稱已證實其效能領先 Nvidia。Amazon 明確指出的下一個里程碑是 10 月 20 日的開源發布,屆時開發者將能更廣泛地檢視和測試這款軟體。

閱讀更多新聞

更多 FinanceVelix 新聞

免責聲明

這篇 FinanceVelix 文章提供一般資訊,並非個人化的財務、投資、法律或稅務建議。市場價格、利率和經濟狀況可能有所變動;投資具有損失風險。本文事實反映發布時可取得的資料,日後可能變動。請自行核實重要資訊,並視需要諮詢合格專業人士。文中提及任何資產、公司或服務,並不代表對其背書。