A Modal 2026. október 19-én közölte, hogy a korai Nvidia Vera CPU-tesztek kétszeres áteresztőképességet eredményeztek az AI-ügynökök sandbox-munkaterheléseinél. A felhőalapú számítástechnikával foglalkozó startup megkapta első Vera szerverét, ám a szélesebb körű bevezetéshez módosítani kellene a kizárólag x86-os processzorokra épülő infrastruktúrát.
Legfontosabb tudnivalók
- A Modal belső benchmarkjai kétszeres áteresztőképességet mutattak az egyidejű sandbox-munkaterheléseknél.
- Egy egyébként terhelés nélküli szerveren az egyes feladatok kisebb és kevésbé következetes előnyt mutattak.
- Az Arm-kompatibilis processzor támogatásához módosítani kellene az infrastruktúrát és az image-ek felépítését.
Tartalomjegyzék
- Az Nvidia Vera CPU eredményei a nagy terhelésű sandboxszervereknek kedveznek
- Miért változtatja meg az egyidejű munkaterhelés az összehasonlítást?
- Az Arm támogatása továbbra is integrációs feladat
- Összegzés
Az Nvidia Vera CPU eredményei a nagy terhelésű sandboxszervereknek kedveznek
A Modal Vera sandbox-benchmarkjáról szóló bejelentése bemutat egy, a San Franciscó-i irodájában már működő szervert, valamint a processzor Modal Sandboxes szolgáltatásba történő bevonásának korai teljesítménybeli indokait. A közlemény kezdeti tesztekről számol be, nem pedig az Intel és AMD processzorokról való teljes átállásról.
Fontos különbséget tenni az áteresztőképesség és a feladatok végrehajtási sebessége között. Az áteresztőképesség azt méri, hogy egy rendszer adott idő alatt hány feladatot végez el; a késleltetés azt, hogy egyetlen feladat mennyi időt vesz igénybe. A Modal szerint a Vera a benchmarkcsomag soros tesztjeiben gyakran jobban teljesített, de nem minden esetben, és az előny mértéke sem volt különösebben nagy.
A jelentősebb előny akkor jelentkezett, amikor sok konténer osztozott a számítási erőforrásokon. A Modal kétszeres áteresztőképességről számolt be, ami a sűrűn megosztott sandboxszerverek szempontjából teszi relevánssá az eredményt; ez nem bizonyítja, hogy minden alkalmazás kétszer olyan gyorsan futna.
| Tétel | Részletek |
|---|---|
| Benchmarkcsomag | 50 Terminal-Bench-orákulummegoldás és -ellenőrző. |
| Konténerek előkészítése | A munkaterheléseket előre felmelegített, egyidejűleg futó Docker-konténerekben hajtották végre. |
| Az áteresztőképesség mérési eljárása | A konténerek egyidejű számát növelték, miközben rögzített időintervallum alatt számolták az elvégzett feladatokat. |
| A soros tesztek feltételei | A feladatok egyesével futottak egy terhelés nélküli gépen. |
Miért változtatja meg az egyidejű munkaterhelés az összehasonlítást?
A Modal szerint a sandboxokat kiszolgáló gépek egyszerre több száz konténert és virtuális gépet futtathatnak. Ezek igényei kiszámíthatatlanok: egy AI-ügynök például várakozhat egy nyelvi modellre, majd hirtelen jóval nagyobb CPU-kapacitásra lehet szüksége szoftvertelepítéshez vagy fájlkereséshez.
Ez a változékonyság erőforrás-versengést okozhat, amelynek során az egyik ügyfél munkaterhelése hatással van egy másik ügyfél teljesítményére. A Modal lehetővé teszi, hogy a munkaterhelések a lefoglalt kapacitás fölé ugorjanak, ezért a nagy, megosztott terhelés alatti teljesítmény fontos szempont a hardverek értékelésekor.
A Modal Agentless Agent Bench tesztje olyan CPU-feladatokat különít el, mint a fordítás, a fájlkeresés, a Git-műveletek és az eszközök emulációja. A hálózati hívások eltávolításával a teszt a processzoroldali végrehajtásra összpontosít, nem pedig arra a teljes időre, amelyre egy AI-ügynöknek egy valós feladat elvégzéséhez szüksége van.
Az Arm támogatása továbbra is integrációs feladat
A Vera az Nvidia Vera Rubin GPU-platformjához készült, Arm-kompatibilis CPU, amely önálló CPU-szerverként is elérhető. A Modal számára a használata egy új processzorarchitektúra bevezetését jelentené, miután eddig kizárólag x86-os gépeket üzemeltetett.
A Modal szerint az Arm támogatásához módosítani kellene az infrastruktúrát és az image-ek felépítésére szolgáló rendszert. A benchmark tehát lehetséges működési előnyt jelez, nem pedig egy már végrehajtott platformváltást vagy mért pénzügyi megtérülést.
Összegzés
A következő megvalósítási lépés a Modal infrastruktúrájának és image-építési rendszerének Armhoz való igazítása. A korai eredmények indokolják e munka elvégzését, a szélesebb körű bevezetés és a valós szolgáltatásban elérhető előnyök bizonyítása azonban még hátravan.
További hírek
Jogi nyilatkozat
Ez a FinanceVelix-cikk általános tájékoztatást nyújt, nem minősül személyre szabott pénzügyi, befektetési, jogi vagy adózási tanácsadásnak. A piaci árak, kamatlábak és gazdasági körülmények változhatnak; a befektetések veszteség kockázatával járnak. A tények a közzétételkor rendelkezésre álló információkat tükrözik, és változhatnak. A fontos információkat ellenőrizze önállóan, szükség esetén pedig forduljon képzett szakemberhez. Egy eszköz, vállalat vagy szolgáltatás említése nem jelent ajánlást.
