Modal rapporterade den 19 oktober 2026 att tidiga tester av Nvidia Vera CPU gav dubblerad genomströmning för företagets arbetsbelastningar i AI-agent-sandlådor. Det molnbaserade startupbolaget har fått sin första Vera-server, men en bredare användning skulle kräva ändringar i infrastrukturen, som uteslutande är byggd kring x86-processorer.
Viktiga slutsatser
- Modals interna riktmärken visade en fördubbling av genomströmningen för samtidiga sandlådsarbetsbelastningar.
- Enskilda uppgifter på en i övrigt obelastad server visade mindre och mer ojämna fördelar.
- Stöd för den Arm-kompatibla processorn skulle kräva förändringar i infrastrukturen och systemet för att bygga avbildningar.
Innehållsförteckning
- Nvidia Vera CPU-resultat gynnar hårt belastade sandlådsservrar
- Varför samtidiga arbetsbelastningar förändrar jämförelsen
- Arm-stöd kräver fortfarande integrationsarbete
- Slutsats
Nvidia Vera CPU-resultat gynnar hårt belastade sandlådsservrar
Modals tillkännagivande om Vera-riktmärket för sandlådor beskriver en server som redan är i drift på företagets kontor i San Francisco och ett tidigt prestandaargument för att lägga till processorn i Modal Sandboxes. Det handlar om inledande tester, inte om en genomförd övergång från Intel- och AMD-processorer.
Skillnaden mellan genomströmning och uppgiftshastighet är viktig. Genomströmning mäter hur många uppgifter ett system slutför under en viss period, medan latens mäter hur lång tid en enskild uppgift tar. Modal fann att Vera ofta presterade bättre i sekventiella tester i företagets testsvit, men inte alltid och inte med särskilt stor marginal.
Den tydligare fördelen visade sig när många containrar konkurrerade om beräkningsresurser. Modal rapporterade en fördubbling av genomströmningen, vilket gör resultatet relevant för tätt delade sandlådsservrar – men det visar inte att varje applikation skulle köras dubbelt så snabbt.
| Post | Detaljer |
|---|---|
| Testsvit | 50 lösningar och verifierare för Terminal-Bench-oraklet. |
| Förberedelse av containrar | Arbetsbelastningarna förvärmdes i samtidiga Docker-containrar. |
| Metod för genomströmningsmätning | Antalet samtidiga containrar ökades samtidigt som slutförda uppgifter räknades under ett fast tidsintervall. |
| Villkor för sekventiella tester | Uppgifterna kördes en i taget på en obelastad maskin. |
Varför samtidiga arbetsbelastningar förändrar jämförelsen
Modal uppger att värdar för sandlådor kan köra hundratals containrar och virtuella maskiner samtidigt. Deras behov är oförutsägbara: en AI-agent kan ägna tid åt att vänta på en språkmodell och sedan plötsligt behöva betydligt mer CPU-kapacitet för att installera programvara eller söka igenom filer.
Den variationen kan skapa resurskonkurrens, där en kunds arbetsbelastning påverkar en annan kunds prestanda. Modal tillåter arbetsbelastningar att tillfälligt överskrida reserverad kapacitet, vilket gör prestanda vid hög belastning och delad användning till en viktig del av företagets hårdvaruutvärdering.
Modals Agentless Agent Bench isolerar CPU-arbete som kompilering, filsökningar, Git-operationer och enhetsemulering. Genom att ta bort nätverksanrop fokuserar testet på exekvering på processorn, snarare än den totala tid det tar för en AI-agent att slutföra en verklig uppgift.
Arm-stöd kräver fortfarande integrationsarbete
Vera är en Arm-kompatibel CPU byggd för Nvidias Vera Rubin GPU-plattform och erbjuds även som en fristående CPU-server. För Modal skulle användningen innebära en annan processorarkitektur efter en historik av drift enbart på x86-maskiner.
Modal uppger att stöd för Arm skulle kräva ändringar i hela infrastrukturen och systemet för att bygga avbildningar. Riktmärket visar därför en möjlig operativ fördel, inte en genomförd plattformsövergång eller en uppmätt finansiell avkastning.
Slutsats
Nästa steg i implementeringen är att anpassa Modals infrastruktur och system för att bygga avbildningar för Arm. De tidiga resultaten talar för att genomföra arbetet, men en bredare driftsättning och förbättringar av den faktiska tjänsten återstår att visa.
Läs fler nyheter
Fler nyheter från FinanceVelix
Ansvarsfriskrivning
Den här artikeln från FinanceVelix innehåller allmän information och utgör inte personlig finansiell rådgivning, investeringsrådgivning, juridisk rådgivning eller skatterådgivning. Marknadspriser, räntor och ekonomiska förhållanden kan förändras; investeringar medför risk för förlust. Uppgifterna återspeglar det material som fanns tillgängligt vid publiceringstillfället och kan ändras. Kontrollera viktig information självständigt och rådgör vid behov med en kvalificerad yrkesperson. Att en tillgång, ett företag eller en tjänst nämns innebär inte att den rekommenderas.
