Modal 於 2026 年 10 月 19 日表示,早期 Nvidia Vera CPU 測試顯示,其 AI 代理沙盒工作負載的吞吐量達到兩倍。這家雲端運算新創公司已收到首台 Vera 伺服器,但若要更廣泛採用,便須調整目前專為 x86 處理器打造的基礎設施。

重點摘要

  • Modal 的內部基準測試顯示,並行沙盒工作負載的吞吐量提升至兩倍。
  • 在閒置伺服器上執行個別任務時,優勢較小且不甚穩定。
  • 要支援與 Arm 相容的處理器,須調整基礎設施及映像檔建置流程。

目錄

Nvidia Vera CPU 測試結果有利於繁忙的沙盒伺服器

Modal 發布的 Vera 沙盒基準測試公告介紹了已在其舊金山辦公室運作的伺服器,以及將該處理器加入 Modal Sandboxes 的初步效能評估。這代表初期測試,而非已完成從 Intel 和 AMD 處理器轉移的作業。

吞吐量與任務速度的差異很重要。吞吐量衡量系統在特定時間內完成多少任務;延遲則衡量單一任務需要多長時間。Modal 發現,Vera 在其基準測試套件的循序測試中通常表現較佳,但並非每次都如此,優勢幅度也不算特別大。

當許多容器爭用運算資源時,較顯著的優勢才浮現。Modal 表示,吞吐量增加至兩倍;這項結果適用於高密度共享的沙盒伺服器,並不代表每個應用程式的執行速度都會快一倍。

項目詳情
基準測試套件50 個 Terminal-Bench Oracle 解答與驗證器。
容器準備工作負載在並行 Docker 容器中預先啟動。
吞吐量測試程序逐步增加容器並行數,並在固定時間內計算完成的任務數。
循序測試條件在沒有負載的機器上逐一執行任務。

為何並行工作負載會改變比較結果

Modal 表示,沙盒主機可同時執行數百個容器和虛擬機器。這些工作負載的需求難以預測:AI 代理可能會花時間等待語言模型回應,接著突然需要大量 CPU 運算能力來安裝軟體或搜尋檔案。

這種變化可能造成資源競爭,使一位客戶的工作負載影響另一位客戶的效能。Modal 允許工作負載超出預留容量突增,因此在大量共享使用情境下的效能,是其硬體評估的重要一環。

其 Agentless Agent Bench 專門測試編譯、檔案搜尋、Git 操作和裝置模擬等 CPU 工作。透過移除網路呼叫,這項測試聚焦於處理器端的執行,而非 AI 代理完成實際任務所需的全部時間。

Arm 支援仍須進行整合工作

Vera 是一款與 Arm 相容的 CPU,專為 Nvidia 的 Vera Rubin GPU 平台打造,也提供獨立 CPU 伺服器版本。對 Modal 而言,採用這款處理器意味著要在長期僅使用 x86 機器後,導入不同的處理器架構。

Modal 表示,支援 Arm 須調整其基礎設施及映像檔建置系統。因此,這項基準測試呈現的是潛在的營運效益,而非已完成的平台轉換或經量化的財務回報。

結論

下一步是調整 Modal 的基礎設施和映像檔建置系統,以支援 Arm。早期結果為這項工作提供了理由,但更廣泛的部署及實際服務效益仍有待證明。

閱讀更多新聞

更多 FinanceVelix 新聞

免責聲明

本文由 FinanceVelix 提供一般資訊,不構成個人化財務、投資、法律或稅務建議。市場價格、利率和經濟狀況可能變動;投資具有損失風險。本文所述事實反映發布時可取得的資料,日後可能變更。請自行核實重要資訊,並在有需要時諮詢合資格專業人士。提及任何資產、公司或服務,均不代表對其背書。