亞馬遜於 2026 年 10 月 19 日宣布推出 TorchNeuron 軟體,表示開發者只需變更一項設定,無須改寫程式碼,即可在其 AWS Trainium AI 晶片上執行現有的 PyTorch 程式碼。這項工具旨在解決軟體轉換障礙,而這類障礙一直是支撐 Nvidia 在 AI 運算領域地位的因素之一。

重點摘要

  • 亞馬遜表示,開發者無須改寫程式碼,即可將現有的 PyTorch 程式碼轉移至 Trainium。
  • 該公司計劃於 10 月 20 日的 PyTorch Conference 上發布開源版本。
  • 更容易的移轉流程可能有助於 Trainium 普及,但這並不能證明其相較 Nvidia 具有廣泛的成本或效能優勢。

目錄

TorchNeuron 軟體聚焦於移轉障礙

選擇不同的 AI 處理器,除了更換硬體,也可能需要調整軟體。亞馬遜對 TorchNeuron 的公告將其描述為原生 PyTorch 後端,旨在透過 PyTorch 用來註冊新硬體的標準機制,將現有應用程式連接至 Trainium,以減少相關工作。

亞馬遜表示,開發者可以繼續使用現有工具來測試、除錯及擴展模型。在該公司的示範中,工程師分別在一般晶片與 Trainium 上執行相同的訓練指令碼,只變更了用來選擇硬體的設定。亞馬遜表示,模型學到的內容相同,學習速度也相同。

這項示範支持該公司的可移植性主張,但並非涵蓋各種工作負載的全面基準測試。移轉應用程式與最佳化其效能是兩項不同的工作;亞馬遜也提供用於自訂低階程式碼及跨多個晶片進行訓練的工具。

項目詳情
支援的晶片世代Trainium2 與 Trainium3
計劃採用的發布授權Apache 2.0
預定發布場合PyTorch Conference North America,2026 年 10 月 20 日

軟體為何攸關挑戰 Nvidia

Nvidia 的競爭地位不僅來自其處理器,也仰賴 CUDA;這個軟體平台歷經十多年開發,旨在支援其硬體上的各種工作負載。亞馬遜正試圖讓自家晶片更容易採用,無須開發者重建 PyTorch 應用程式。

實際上,這項技術有望減少移轉所需的工程時間。如果此方法能適用於更多生產環境工作負載,Trainium 可能會成為 AWS 客戶更容易採用的替代方案。僅憑這項公告,無法確定客戶能節省多少成本,也無法判斷他們是否會將支出從 Nvidia 轉移出去。

早期使用者涵蓋語音 AI 與藥物探索

亞馬遜指出,早期使用者來自多個 AI 領域。該公司表示,語音 AI 公司 Cartesia 以對 PyTorch 程式碼進行最少修改的方式,執行了其標準推論流程;Lieber Institute for Brain Development 則正探索將 Trainium 用於藥物研究中的生物、化學及語言模型。

這些案例展示了正在測試的應用範圍,並不代表其已廣泛商業採用。亞馬遜也表示,正為 PyTorch 貢獻程式碼變更,以降低對其自家晶片以外硬體的特定依賴。

結論

TorchNeuron 著重處理採用亞馬遜 AI 硬體所涉及的軟體工作,本身並不能證明硬體具有優勢。截至 10 月 19 日的公告,下一個預定里程碑是 10 月 20 日發布開源版本。

閱讀更多新聞

更多 FinanceVelix 新聞

免責聲明

本 FinanceVelix 文章僅提供一般資訊,不構成個人化的財務、投資、法律或稅務建議。市場價格、利率及經濟狀況可能變動;投資涉及損失風險。本文內容反映發布時可取得的資料,且可能有所變動。請自行查證重要資訊,並在需要時諮詢合格專業人士。提及任何資產、公司或服務,均不代表背書。