Modal 於 2026 年 10 月 19 日表示,早期 Nvidia Vera CPU 測試顯示,其 AI 代理沙盒工作負載的吞吐量達到兩倍。這家雲端運算新創公司已收到首台 Vera 伺服器,但若要更廣泛採用,便須調整目前專為 x86 處理器打造的基礎設施。
重點摘要
- Modal 的內部基準測試顯示,並行沙盒工作負載的吞吐量提升至兩倍。
- 在閒置伺服器上執行個別任務時,優勢較小且不甚穩定。
- 要支援與 Arm 相容的處理器,須調整基礎設施及映像檔建置流程。
目錄
Nvidia Vera CPU 測試結果有利於繁忙的沙盒伺服器
Modal 發布的 Vera 沙盒基準測試公告介紹了已在其舊金山辦公室運作的伺服器,以及將該處理器加入 Modal Sandboxes 的初步效能評估。這代表初期測試,而非已完成從 Intel 和 AMD 處理器轉移的作業。
吞吐量與任務速度的差異很重要。吞吐量衡量系統在特定時間內完成多少任務;延遲則衡量單一任務需要多長時間。Modal 發現,Vera 在其基準測試套件的循序測試中通常表現較佳,但並非每次都如此,優勢幅度也不算特別大。
當許多容器爭用運算資源時,較顯著的優勢才浮現。Modal 表示,吞吐量增加至兩倍;這項結果適用於高密度共享的沙盒伺服器,並不代表每個應用程式的執行速度都會快一倍。
| 項目 | 詳情 |
|---|---|
| 基準測試套件 | 50 個 Terminal-Bench Oracle 解答與驗證器。 |
| 容器準備 | 工作負載在並行 Docker 容器中預先啟動。 |
| 吞吐量測試程序 | 逐步增加容器並行數,並在固定時間內計算完成的任務數。 |
| 循序測試條件 | 在沒有負載的機器上逐一執行任務。 |
為何並行工作負載會改變比較結果
Modal 表示,沙盒主機可同時執行數百個容器和虛擬機器。這些工作負載的需求難以預測:AI 代理可能會花時間等待語言模型回應,接著突然需要大量 CPU 運算能力來安裝軟體或搜尋檔案。
這種變化可能造成資源競爭,使一位客戶的工作負載影響另一位客戶的效能。Modal 允許工作負載超出預留容量突增,因此在大量共享使用情境下的效能,是其硬體評估的重要一環。
其 Agentless Agent Bench 專門測試編譯、檔案搜尋、Git 操作和裝置模擬等 CPU 工作。透過移除網路呼叫,這項測試聚焦於處理器端的執行,而非 AI 代理完成實際任務所需的全部時間。
Arm 支援仍須進行整合工作
Vera 是一款與 Arm 相容的 CPU,專為 Nvidia 的 Vera Rubin GPU 平台打造,也提供獨立 CPU 伺服器版本。對 Modal 而言,採用這款處理器意味著要在長期僅使用 x86 機器後,導入不同的處理器架構。
Modal 表示,支援 Arm 須調整其基礎設施及映像檔建置系統。因此,這項基準測試呈現的是潛在的營運效益,而非已完成的平台轉換或經量化的財務回報。
結論
下一步是調整 Modal 的基礎設施和映像檔建置系統,以支援 Arm。早期結果為這項工作提供了理由,但更廣泛的部署及實際服務效益仍有待證明。
閱讀更多新聞
免責聲明
本文由 FinanceVelix 提供一般資訊,不構成個人化財務、投資、法律或稅務建議。市場價格、利率和經濟狀況可能變動;投資具有損失風險。本文所述事實反映發布時可取得的資料,日後可能變更。請自行核實重要資訊,並在有需要時諮詢合資格專業人士。提及任何資產、公司或服務,均不代表對其背書。




