Modal rapporterede den 19. oktober 2026, at de første Nvidia Vera CPU-tests leverede dobbelt så høj gennemstrømning for virksomhedens AI-agent-sandbox-arbejdsbelastninger. Cloudcomputing-startuppen har modtaget sin første Vera-server, men en bredere udbredelse vil kræve ændringer i den infrastruktur, der udelukkende er bygget til x86-processorer.
Vigtige konklusioner
- Modals interne benchmarks viste en fordobling af gennemstrømningen for samtidige sandbox-arbejdsbelastninger.
- Individuelle opgaver på en server, der ellers var inaktiv, viste mindre og mere svingende fordele.
- Understøttelse af den Arm-kompatible processor vil kræve ændringer i infrastrukturen og systemet til opbygning af images.
Indholdsfortegnelse
- Nvidia Vera CPU-resultater favoriserer travle sandbox-servere
- Hvorfor samtidige arbejdsbelastninger ændrer sammenligningen
- Arm-understøttelse kræver fortsat integrationsarbejde
- Konklusion
Nvidia Vera CPU-resultater favoriserer travle sandbox-servere
Modals meddelelse om Vera-sandbox-benchmarken beskriver en server, der allerede kører på virksomhedens kontor i San Francisco, samt et tidligt argument for at tilføje processoren til Modal Sandboxes. Det dokumenterer indledende test, ikke en gennemført overgang væk fra Intel- og AMD-processorer.
Forskellen mellem gennemstrømning og opgavehastighed er vigtig. Gennemstrømning måler, hvor mange opgaver et system fuldfører i en given periode; latenstid måler, hvor lang tid en enkelt opgave tager. Modal fandt, at Vera ofte klarede sig bedre i serielle tests på tværs af benchmarkpakken, men ikke altid og heller ikke med særlig stor margin.
Den mere markante fordel viste sig, når mange containere konkurrerede om computerressourcer. Modal rapporterede en fordobling af gennemstrømningen, hvilket gør resultatet relevant for tæt delte sandbox-servere, men ikke til dokumentation for, at alle applikationer ville køre dobbelt så hurtigt.
| Element | Detaljer |
|---|---|
| Benchmarkpakke | 50 løsninger og verifikatorer fra Terminal-Bench oracle. |
| Klargøring af containere | Arbejdsbelastningerne blev forvarmet i samtidige Docker-containere. |
| Fremgangsmåde ved måling af gennemstrømning | Antallet af samtidige containere blev øget, mens fuldførte opgaver blev talt i et fast tidsinterval. |
| Betingelser for serielle tests | Opgaverne blev kørt én ad gangen på en maskine uden belastning. |
Hvorfor samtidige arbejdsbelastninger ændrer sammenligningen
Modal oplyser, at sandbox-værter kan køre hundredvis af containere og virtuelle maskiner samtidigt. Deres ressourcebehov er uforudsigeligt: En AI-agent kan bruge tid på at vente på en sprogmodel og pludselig få brug for langt større CPU-kapacitet til at installere software eller søge i filer.
Denne variation kan skabe flaskehalse, hvor én kundes arbejdsbelastning påvirker en anden kundes ydeevne. Modal tillader, at arbejdsbelastninger midlertidigt overstiger den reserverede kapacitet, hvilket gør ydeevnen ved høj delt belastning til en vigtig del af virksomhedens hardwareevaluering.
Modals Agentless Agent Bench isolerer CPU-arbejde såsom kompilering, filsøgninger, Git-operationer og enhedsemulering. Ved at fjerne netværkskald fokuserer testen på udførelsen på processoren frem for den samlede tid, en AI-agent bruger på at løse en opgave fra den virkelige verden.
Arm-understøttelse kræver fortsat integrationsarbejde
Vera er en Arm-kompatibel CPU, der er udviklet til Nvidias Vera Rubin GPU-platform, og som også tilbydes som en selvstændig CPU-server. For Modal vil brugen af den indebære en anden processorarkitektur efter en historik med udelukkende at drive x86-maskiner.
Modal oplyser, at understøttelse af Arm vil kræve ændringer i hele infrastrukturen og systemet til opbygning af images. Benchmarken viser derfor en potentiel driftsmæssig fordel, ikke en gennemført platformsovergang eller et målt økonomisk afkast.
Konklusion
Det næste implementeringstrin er at tilpasse Modals infrastruktur og system til opbygning af images til Arm. De tidlige resultater taler for dette arbejde, mens en bredere udrulning og forbedringer af tjenesten i den virkelige verden stadig mangler at blive dokumenteret.
Læs flere nyheder
Flere nyheder fra FinanceVelix
Ansvarsfraskrivelse
Denne FinanceVelix-artikel indeholder generel information og udgør ikke personlig finansiel rådgivning, investeringsrådgivning, juridisk rådgivning eller skatterådgivning. Markedspriser, renter og økonomiske forhold kan ændre sig; investeringer indebærer risiko for tab. Oplysningerne afspejler det materiale, der var tilgængeligt på udgivelsestidspunktet, og kan ændre sig. Kontrollér selv vigtige oplysninger, og rådfør dig om nødvendigt med en kvalificeret fagperson. Omtale af et aktiv, en virksomhed eller en tjeneste er ikke en anbefaling.
