Modal은 2026년 10월 19일, 초기 Nvidia Vera CPU 테스트에서 AI 에이전트 샌드박스 워크로드의 처리량이 두 배로 늘었다고 밝혔다. 클라우드 컴퓨팅 스타트업인 Modal은 첫 Vera 서버를 받았지만, 도입을 확대하려면 x86 프로세서만을 전제로 구축된 인프라를 변경해야 한다.
핵심 요약
- Modal의 내부 벤치마크에서 여러 샌드박스 워크로드를 동시에 실행했을 때 처리량이 두 배로 향상됐다.
- 부하가 없는 서버에서 개별 작업을 실행했을 때는 성능 개선 폭이 더 작고 일관성도 낮았다.
- Arm 호환 프로세서를 지원하려면 인프라와 이미지 빌드 방식을 변경해야 한다.
목차
Nvidia Vera CPU 결과, 부하가 높은 샌드박스 서버에서 우위
Modal의 Vera 샌드박스 벤치마크 발표는 샌프란시스코 사무실에서 이미 가동 중인 서버와 Modal Sandboxes에 해당 프로세서를 추가할 경우 기대할 수 있는 초기 성능을 소개한다. 이는 초기 테스트 결과이며, Intel 및 AMD 프로세서에서 완전히 전환했다는 의미는 아니다.
처리량과 작업 속도의 차이는 중요하다. 처리량은 시스템이 일정 시간 동안 완료하는 작업 수를 측정하고, 지연 시간은 개별 작업에 걸리는 시간을 측정한다. Modal은 벤치마크 모음의 직렬 테스트에서 Vera가 대체로 더 나은 성능을 보였지만, 항상 그런 것은 아니었고 격차도 특별히 크지 않았다고 밝혔다.
여러 컨테이너가 컴퓨팅 자원을 두고 경쟁할 때 더 큰 성능 우위가 나타났다. Modal은 처리량이 두 배 증가했다고 밝혔으며, 이 결과는 모든 애플리케이션이 두 배 빨라진다는 증거라기보다 여러 사용자가 함께 이용하는 고밀도 샌드박스 서버와 관련이 있다.
| 항목 | 세부 내용 |
|---|---|
| 벤치마크 모음 | Terminal-Bench 오라클 솔루션 및 검증기 50개. |
| 컨테이너 준비 | 워크로드는 사전 예열된 동시 실행 Docker 컨테이너에서 구동했다. |
| 처리량 측정 절차 | 고정된 시간 동안 완료된 작업 수를 집계하면서 컨테이너 동시 실행 수를 늘렸다. |
| 직렬 테스트 조건 | 부하가 없는 컴퓨터에서 작업을 한 번에 하나씩 실행했다. |
동시 실행 워크로드가 비교 결과를 바꾸는 이유
Modal에 따르면 샌드박스 호스트에서는 컨테이너와 가상 머신 수백 개를 동시에 실행할 수 있다. 이들의 수요는 예측하기 어렵다. AI 에이전트는 언어 모델의 응답을 기다리며 시간을 보내다가도 소프트웨어를 설치하거나 파일을 검색하기 위해 갑자기 훨씬 더 많은 CPU 용량을 필요로 할 수 있다.
이러한 변동성은 자원 경합을 일으켜 한 고객의 워크로드가 다른 고객의 성능에 영향을 줄 수 있다. Modal은 워크로드가 예약 용량을 넘어 일시적으로 더 많은 자원을 사용할 수 있도록 허용하므로, 하드웨어 평가에서 공유 환경의 높은 부하를 견디는 성능이 중요하다.
Modal의 Agentless Agent Bench는 컴파일, 파일 검색, Git 작업, 장치 에뮬레이션과 같은 CPU 작업을 분리해 측정한다. 네트워크 호출을 제거함으로써 이 테스트는 AI 에이전트가 실제 과제를 완료하는 데 걸리는 전체 시간이 아니라 프로세서에서 실행되는 작업에 초점을 맞춘다.
Arm 지원에는 여전히 통합 작업이 필요
Vera는 Nvidia의 Vera Rubin GPU 플랫폼용으로 제작된 Arm 호환 CPU이며, 독립형 CPU 서버로도 제공된다. Modal이 이를 사용하려면 x86 머신만 운영해 온 기존 환경에 다른 프로세서 아키텍처를 도입해야 한다.
Modal은 Arm을 지원하려면 인프라와 이미지 빌드 시스템 전반을 변경해야 한다고 밝혔다. 따라서 이 벤치마크는 잠재적인 운영상 이점을 제시할 뿐, 플랫폼 전환이 완료됐거나 재무적 수익이 측정됐다는 뜻은 아니다.
결론
다음 단계는 Modal의 인프라와 이미지 빌드 시스템을 Arm에 맞게 조정하는 것이다. 초기 결과는 이러한 작업의 필요성을 뒷받침하지만, 실제 배포 확대와 현실 서비스에서의 성능 개선은 앞으로 입증해야 한다.
더 많은 뉴스 읽기
면책 조항
이 FinanceVelix 기사는 일반적인 정보를 제공하며, 개인 맞춤형 금융·투자·법률·세무 자문이 아닙니다. 시장 가격, 금리 및 경제 여건은 변할 수 있으며, 투자에는 손실 위험이 따릅니다. 사실관계는 게시 당시 이용 가능한 자료를 반영하며 이후 바뀔 수 있습니다. 중요한 정보는 독립적으로 확인하고 필요하면 자격을 갖춘 전문가와 상담하십시오. 자산, 기업 또는 서비스의 언급은 이를 추천한다는 의미가 아닙니다.
