NVIDIA 於 10 月 21 日在 GTC Berlin 宣布推出 NVIDIA DSX POD,提供一種建置 AI 工廠的模組化方案。該公司表示,待場址公用設施就緒後,此方案可將現場部署時間從六個月縮短至 14 天。這套參考設計將完整的 Vera Rubin 系統封裝在模組化貨櫃中,由合作夥伴在交付前完成建置、整合與驗證,讓更多安裝工作得以移出客戶場址。

重點摘要

  • DSX POD 是由合作夥伴建置、用於模組化 Vera Rubin AI 工廠的參考設計;縮短部署時間的前提是場址公用設施已就緒。
  • NVIDIA 在基礎設施相關公告中,也推出代理安全設計,以及將代理連接至企業知識的工具。
  • 黃仁勳將這些發布置於 NVIDIA 拓展歐洲業務的脈絡下,並提及該公司對當地科技生態系的承諾金額近 100 億美元。

目錄

NVIDIA DSX POD 將整合工作提前至交付前完成

核心改變在於 AI 工廠的組裝地點。DSX POD 不再等設備運抵目的地後才進行整合與驗證,而是要求合作夥伴在出貨前,先於模組化貨櫃內完成這些步驟。NVIDIA 將此描述為資料中心建置供應鏈的改變,而不只是另一種機架級硬體方案。

理解部署時間的說法時,這項區別十分重要。14 天指的是公用設施就緒後的現場部署時間,並非整個專案的明確時程。報導未提供完整的建設時程,也未披露 DSX POD 的定價與客戶交付日期。

黃仁勳表示,Vera Rubin 已全面投產,並將 NVIDIA 的運算平台從個別模型及大型語言模型擴展至處理完整的 AI 代理。他將更廣泛的 AI 工廠平台定位為硬體、系統軟體、CUDA-X 函式庫與模型的結合。

項目詳情
DSX POD全新的參考設計,以模組化貨櫃打造完整的 Vera Rubin AI 工廠,由合作夥伴完成組裝、整合與驗證。
部署時程NVIDIA 表示,場址公用設施就緒後,現場部署時間可從六個月縮短至 14 天。
DSX 效率效益說法根據 NVIDIA 說法,更廣泛的平台可將冷卻用水量最多減少 100%,並以最多少 30% 的耗電量達到相同 AI 輸出。
OpenShell 參考架構全新安全設計,結合政策控管、核心層級沙箱,以及代理與受影響系統之間的監控。
Agent Knowledge Foundation全新模型與函式庫可將代理連接至企業文件及結構化資料庫資訊。
適應性放射治療NVIDIA 與 Siemens Healthineers 正在開發一套 AI 驅動系統;報導未將其描述為已完成部署。

歐洲 AI 推動計畫結合資本與營運效率

柏林主題演講之前,NVIDIA 已先後造訪巴黎、倫敦、斯德哥爾摩與都柏林。根據該公司的說法,NVIDIA 正承諾投入近 100 億美元,支持歐洲科技生態系,並與超過 12,000 家合作夥伴合作。這是承諾金額,並不代表全數資金已經投入。

黃仁勳主張,歐洲企業應生產 AI,而不只是使用 AI。他提到 L’Oréal、Revolut、Spotify、Merck、Vodafone、Porsche 和 HSBC 等企業,指出這些歐洲公司正與 NVIDIA 合作發展 AI,並將基礎設施相關公告與既有的企業客群連結起來。

NVIDIA 也表示,其 DSX AI Factory Platform 可將冷卻用水量最多減少 100%,並以最多少 30% 的耗電量提供相同 AI 輸出。這些是較廣泛平台宣稱的能力,與 DSX POD 的部署時間說法分屬不同項目。主題演講報導並未提供這些節省效益在個別專案中的營運成果。

代理安全成為基礎設施的一環

更快部署基礎設施只是 NVIDIA 推介內容的一部分。黃仁勳將代理描述為結合模型、協調框架、記憶、沙箱、知識與工具的系統。由於代理能存取檔案、網路及其他資源,其實用性也意味著必須管控其獲准執行的操作。

NVIDIA 推出 OpenShell Reference Architecture for Safe AI Agents,以因應這項問題。這是一套建構於 OpenShell 之上的全端設計;OpenShell 是一種開源、由政策控管的執行環境,透過核心層級沙箱,介於代理與其可影響的系統之間。

黃仁勳表示,代理應僅獲得最低限度的權限,且其活動須受到監控,權限與政策執行則應能動態調整。實務上的關鍵差異,在於讓代理使用某項工具,與賦予代理不受限制地存取周邊系統的權限,兩者並不相同。NVIDIA 將安全性定位為部署代理時的工程要求,而非僅是底層模型本身具備的特性。

企業知識是下一層部署關鍵

NVIDIA 的 Agent Knowledge Foundation 著眼於另一項障礙:如何將代理連接至企業既有資訊。這套新推出的模型與函式庫涵蓋非結構化文件以及結構化資料庫資訊。

所介紹的工具包括 Nemotron 能力,可用於解析文件、嵌入查詢並重新排序相關資訊;另有全新的 Kumo 模型,可根據結構化資料進行預測。這些功能將代理的推理流程與企業專屬資料連結,而非僅仰賴通用模型所包含的知識。

黃仁勳也將 NVIDIA 的開放模型定位為起點,企業可運用專有資料進行後訓練,以應用於特定用途。CUDA-X 函式庫則提供另一項組成部分:代理可作為工具使用的加速模擬器、求解器與資料處理引擎。整體而言,這些公告描繪出一套涵蓋權限、知識與執行的運作堆疊。

工業案例呈現不同採用階段

主題演講影片展示了這些組成部分可能如何協同運作。在 Lila Sciences,代理透過虛擬實驗協助設計一種潛在的 B 細胞淋巴瘤療法,並由此引導自動化實驗室。在 Siemens 位於埃爾朗根的工廠,代理透過數位孿生測試生產計畫,協助準備產品投產。Dassault Systèmes 的案例則展示工程代理如何利用模擬找出車輛設計問題並改良設計。

這些示範應與仍在開發中的專案區分開來。NVIDIA 與 Siemens Healthineers 正在開發 AI 驅動的放射治療方案,結合治療規劃代理、數位孿生,以及即時影像與感測器資料。據描述,這套系統將能在治療期間,隨著患者身體與腫瘤的變化調整照射目標。

這些案例讓基礎設施策略有了具體用途:讓代理在實驗室、工廠與工程環境中運用專業資料和工具。但這些案例本身並不能證明所有已公布的技術都已商業部署,也不能證明相關場址已實現所宣稱的基礎設施節省效益。

結論

DSX POD 為 NVIDIA 推動歐洲 AI 發展提出了具體的基礎設施方案:將整合工作移至場外完成,並在公用設施就緒後縮短部署時間。配套推出的安全與知識工具,則著眼於企業如何在這套基礎設施上運作代理;至於定價、交付時程與專案層級的效率成果,主題演講報導均未披露。

閱讀更多新聞

閱讀更多 FinanceVelix 新聞

免責聲明

本篇 FinanceVelix 文章僅提供一般資訊,不構成個人化財務、投資、法律或稅務建議。市場價格、利率與經濟狀況可能變動;投資涉及損失風險。文中事實依據發布時可取得的資料,且可能有所變化。請自行核實重要資訊,並視需要諮詢合格專業人士。提及任何資產、公司或服務,均不代表予以背書。