Modal于2026年10月19日表示，早期Nvidia Vera CPU测试显示，其AI代理沙盒工作负载的吞吐量翻了一倍。这家云计算初创公司已收到首台Vera服务器，但若要更广泛地采用该处理器，就需要调整目前完全围绕x86处理器构建的基础设施。
要点
- Modal的内部基准测试显示，并发沙盒工作负载的吞吐量提升至两倍。
- 在空闲服务器上运行单项任务时，优势较小且不够稳定。
- 支持这款兼容Arm的处理器，需要调整基础设施和镜像构建流程。
目录
Nvidia Vera CPU的测试结果有利于繁忙的沙盒服务器
Modal发布的Vera沙盒基准测试公告介绍了已在其旧金山办公室运行的一台服务器，并说明了将这款处理器加入Modal Sandboxes的初步性能依据。这反映的是初期测试，而非已完成从英特尔和AMD处理器迁移的结果。
吞吐量与任务速度之间的区别很重要。吞吐量衡量系统在一定时间内完成多少项任务；延迟则衡量单项任务需要多长时间。Modal发现，在其基准测试套件的串行测试中，Vera往往表现更好，但并非总是如此，优势幅度也并不特别大。
更显著的优势出现在大量容器争用计算资源时。Modal报告称吞吐量提升至两倍，因此这一结果与高密度共享沙盒服务器有关，并不意味着每个应用的运行速度都会翻倍。
| 项目 | 详情 |
|---|---|
| 基准测试套件 | 50个Terminal-Bench oracle解决方案及验证器。 |
| 容器准备 | 工作负载预先在并发Docker容器中预热。 |
| 吞吐量测试流程 | 逐步提高容器并发数，并在固定时间间隔内统计任务完成数量。 |
| 串行测试条件 | 在无负载的机器上一次运行一项任务。 |
并发工作负载为何会改变比较结果
Modal表示，沙盒主机可以同时运行数百个容器和虚拟机。这些工作负载的需求难以预测：AI代理可能需要等待语言模型响应一段时间，随后又突然需要更多CPU算力来安装软件或搜索文件。
这种波动可能造成资源争用，导致一位客户的工作负载影响另一位客户的性能。Modal允许工作负载突发超出预留容量，因此，硬件评估的一个重要部分是考察其在高负载共享使用时的表现。
其Agentless Agent Bench会单独测试编译、文件搜索、Git操作和设备仿真等CPU工作。通过移除网络调用，该测试聚焦于处理器端的执行，而不是AI代理完成真实任务所需的全部时间。
Arm支持仍是一项集成工作
Vera是一款兼容Arm的CPU，专为Nvidia的Vera Rubin GPU平台打造，也提供独立CPU服务器版本。对Modal而言，采用该处理器意味着在长期只运行x86机器之后引入一种不同的处理器架构。
Modal表示，支持Arm需要调整其基础设施和镜像构建系统。因此，这项基准测试显示的是潜在的运营效益，而非已完成的平台转型或经过测量的财务回报。
结论
下一步实施工作是调整Modal的基础设施和镜像构建系统，以支持Arm。早期结果为开展这项工作提供了依据，但更广泛的部署及其在实际服务中的收益仍有待证明。
阅读更多新闻
免责声明
本文由FinanceVelix发布，仅提供一般信息，不构成个性化的财务、投资、法律或税务建议。市场价格、利率和经济状况可能发生变化；投资存在亏损风险。文中事实依据发布时可获得的材料，且可能发生变化。请独立核实重要信息，并在需要时咨询合格的专业人士。提及任何资产、公司或服务均不构成背书。
