歐洲 AI 雲端業者正擴充區域運算基礎設施,同時新增專用模型服務,並加強對 AI 代理使用工具及企業系統方式的控制。NVIDIA 的合作夥伴更新內容涵蓋已完成的測試、已投入使用的服務及規劃中的部署,包括 Nscale 在電力受限情況下進行的推論測試、Mistral 計畫於 2027 年接收 Vera Rubin,以及生態系對 OpenShell 參考架構的支援。

重點摘要

  • Nscale 表示,在相同的配置電力預算下,測試可支援的 GPU 數量增加 37%,整體推論吞吐量提高近 50%。
  • 合作夥伴正將區域基礎設施與專業服務結合,包括 CodeRabbit 的程式碼審查路由模型,以及 Nebius 的機器人平台。
  • OpenShell 支持者旨在為軟硬體各層建立代理存取邊界;合作夥伴的支持不代表已完成客戶部署。

目錄

歐洲 AI 雲端面臨電力限制

擴張並非只是安裝更多運算設備。NVIDIA 指出,隨著 AI 工廠擴大,電力成為一項限制因素,因此如何在現有電力配額內提供更多有效運算,已成為容量規劃的重要一環。

Nscale 公布的測試提供了具體例證。該公司使用 NVIDIA GB300 NVL72 系統展示,DSX MaxLPS 在相同的配置電力預算下,可支援多 37% 的 GPU,並使整體推論吞吐量提高近 50%。這些結果描述的是一種測試配置,並非 Nscale 所有設施都已測得相同幅度的改善。

Nscale 也計畫部署 Vera Rubin 基礎設施,用於前沿模型訓練及生產工作負載,並在五個歐洲市場拓展業務。另一方面,Crusoe 正為 Vera Rubin 平台開發 Spark,這是一種液冷模組化 AI 工廠設計,旨在讓推論容量更貼近使用者。

其地理範圍也不限於歐洲。NVIDIA 另指出,包括 Aleria、Cassava Technologies、Firebird、G42、Radiant、SWI Compute 和 Vultr 在內的合作夥伴,正在北歐、非洲及中亞開發並擴充基礎設施。

項目詳情
Nscale 電力效率測試據報使用 DSX MaxLPS,在相同的配置電力預算下,GPU 數量增加 37%,整體推論吞吐量提高近 50%。
Mistral 基礎設施Vera Rubin 計畫於 2027 年交付;Mistral Large 4 已在由 Mistral 營運的歐洲資料中心,使用 3,800 顆 Grace Blackwell GPU 完成訓練。
CodeRabbit 路由模型路由一致率由 75.8% 升至 80.7%;針對受評估的工作負載,推論成本估計降低 50%。
Nebius 零售代理涵蓋庫存、門市營運及微調的藍圖已推出早期存取版本。
OpenShell 參考架構於 GTC Berlin 發布並獲合作夥伴支持;旨在協調執行階段軟體、CPU 及 DPU 各層的代理邊界。

哪些已推出、完成測試或仍在規劃中?

NVIDIA 關於區域雲端合作夥伴與代理控制的報告,將多種不同階段的活動一併介紹。區分這些階段很重要:已在生產環境運作的模型、早期存取服務,以及未來的硬體交付,對客戶而言並不代表相同程度的即時可用性。

Mistral 的擴張正好說明了這項差異。其 Vera Rubin 基礎設施計畫於 2027 年交付。另一方面,NVIDIA 表示,Mistral Large 4 已在由 Mistral 營運的歐洲資料中心,使用 3,800 顆 Grace Blackwell GPU 完成訓練。模型訓練已完成,但下一批基礎設施仍有待交付。

Verda 同樣計畫部署 Vera Rubin,但目前已在生產環境中使用 NVIDIA Nemotron 和 Cosmos 開放權重模型,並使用 Dynamo 開源架構進行推論最佳化。

專業服務讓區域運算能力發揮效用

對開發者而言,實際問題在於新增基礎設施能支援哪些應用。合作夥伴更新內容提及程式碼審查、機器人、零售代理及企業模型服務,而不是將運算能力本身視為完整產品。

Baseten 使用 Nemotron 3.5 Lightning,為 CodeRabbit 開發專用的程式碼審查路由模型。經過監督式微調及強化學習後,路由一致率由 75.8% 升至 80.7%,而受評估工作負載的推論成本估計降低 50%。這項成本數據是針對該工作負載的估算,並不代表所有模型使用情境的成本都普遍下降。

Nebius 已採用 NVIDIA Groq 3 LPX,並透過 Spectrum-X Ethernet 網路將其整合至 Token Factory 平台上的 Vera Rubin NVL72。NVIDIA 表示,這項組合將透過託管無伺服器服務及專用端點,加速延遲敏感型應用與代理式系統的 token 生成。

Nebius 也提供 Physical AI Workbench,Rhoda AI、RoboForce 和 Sereact 等機器人公司均有使用。其 NVIDIA 零售代理藍圖涵蓋庫存、門市營運及微調,目前已進入早期存取階段。

Fireworks 和 Era4 採取另一種方式:將模型訓練與推論服務,結合 Era4 位於 Chesterfield 設施的直連液冷 Blackwell Ultra 運算容量。這項合作支援雙方在金融服務、保險及生命科學領域發展企業應用的計畫。

代理控制涵蓋軟體與硬體

將 AI 模型連接至企業工具,除了提供足夠運算能力,還帶來另一項需求:企業必須界定並落實代理可以存取及執行的操作。於 GTC Berlin 發布的 OpenShell 參考架構,旨在涵蓋整個部署堆疊,處理這些存取邊界。

該架構為各組件分配不同功能。Vera Rubin NVL72 負責模型推論;支援 OpenShell 的 Vera CPU 負責代理執行框架與工具使用;執行 NVIDIA Sentry 的 BlueField-4 DPU 則在晶片層執行管控。OpenShell 安全執行階段軟體構成此架構的基礎。

支持者包括 Baseten、CoreWeave、Crusoe、DigitalOcean、Fireworks、Nebius、Nscale 和 Vultr 等雲端與模型服務供應商。報告描述的是旨在促成安全代理部署的生態系支持,並未表示每一家點名的合作夥伴都已完成部署。

結論

這項更新將區域運算投資與特定工作負載及代理存取控制連結起來。最有力的證據是已測量的測試結果及投入使用的服務;規劃中的 Vera Rubin 部署和更廣泛的 OpenShell 採用則屬下一階段,並非已完成的容量建置。

閱讀更多新聞

更多 FinanceVelix 新聞

免責聲明

本文由 FinanceVelix 提供一般資訊,不構成個人化財務、投資、法律或稅務建議。市場價格、利率和經濟狀況可能變動;投資具有損失風險。本文事實反映發布時可取得的資料,日後可能有所變動。請自行核實重要資訊,並在有需要時諮詢合格專業人士。提及任何資產、公司或服務,均不代表對其予以背書。