Az európai AI-felhők bővítik regionális számítási infrastruktúrájukat, miközben speciális modellalapú szolgáltatásokat, valamint az AI-ügynökök eszköz- és üzleti rendszerekhez való hozzáférését szabályozó megoldásokat is kínálnak. Az NVIDIA partneri tájékoztatója lezárult tesztekről, már használatban lévő szolgáltatásokról és tervezett telepítésekről számol be, köztük az Nscale korlátozott teljesítménykeret mellett végzett inferenciatesztjeiről, a Mistral 2027-re tervezett Vera Rubin-szállításáról, valamint az OpenShell Reference Architecture ökoszisztéma-támogatásáról.
Legfontosabb tudnivalók
- Az Nscale arról számolt be, hogy tesztjei ugyanazon rendelkezésre bocsátott teljesítménykeret mellett 37%-kal több GPU-t és közel 50%-kal nagyobb összesített inferencia-áteresztőképességet tettek lehetővé.
- A partnerek regionális infrastruktúrát speciális szolgáltatásokkal ötvöznek, köztük a CodeRabbit kódellenőrzési útválasztási modelljével és a Nebius robotikai platformjával.
- Az OpenShell támogatói arra törekednek, hogy szoftveres és hardveres szinten is kijelöljék az ügynökök hozzáférési határait; a partneri támogatás nem azonos egy ügyfélnél már befejezett telepítéssel.
Tartalomjegyzék
- Az európai AI-felhők a teljesítménykorláttal szembesülnek
- Mi érhető el, mit teszteltek, és mi van még tervben?
- A speciális szolgáltatások hasznosítják a regionális kapacitást
- Az ügynökök szabályozása a szoftverre és a hardverre is kiterjed
- Összegzés
Az európai AI-felhők a teljesítménykorláttal szembesülnek
A bővítés nem csupán újabb számítástechnikai berendezések telepítéséről szól. Az NVIDIA szerint az AI-gyárak növekedésével a rendelkezésre álló teljesítmény korlátozó tényezővé válik, ezért a kapacitástervezésben fontos szempont, hogy egy adott villamosenergia-keret mellett mennyi hasznos munkát lehet elvégezni.
Az Nscale ismertetett tesztjei konkrét példát mutatnak erre. NVIDIA GB300 NVL72 rendszerekkel a vállalat bemutatta, hogy a DSX MaxLPS ugyanazon rendelkezésre bocsátott teljesítménykeret mellett 37%-kal több GPU-t és közel 50%-kal nagyobb összesített inferencia-áteresztőképességet tett lehetővé. Ezek az eredmények egy tesztkonfigurációra vonatkoznak, és nem jelentenek minden Nscale-létesítményben mért javulást.
Az Nscale emellett Vera Rubin infrastruktúra telepítését tervezi élvonalbeli modellek betanításához és éles üzemi feladatokhoz, miközben öt európai piacon is bővül. A Crusoe eközben a Vera Rubin platformhoz fejleszt egy Spark nevű, folyadékhűtéses, moduláris AI-gyár-kialakítást, amelynek célja, hogy az inferenciakapacitást közelebb vigye a felhasználókhoz.
A földrajzi lefedettség Európán túlra is kiterjed. Az NVIDIA az északi országokban, Afrikában és Közép-Ázsiában is infrastruktúra-fejlesztéseket és bővítéseket említ; ezekben olyan partnerek vesznek részt, mint az Aleria, a Cassava Technologies, a Firebird, a G42, a Radiant, a SWI Compute és a Vultr.
| Tétel | Részletek |
|---|---|
| Az Nscale teljesítményhatékonysági tesztjei | A DSX MaxLPS használatával ugyanazon rendelkezésre bocsátott teljesítménykeret mellett 37%-kal több GPU-ról és közel 50%-kal nagyobb összesített inferencia-áteresztőképességről számoltak be. |
| Mistral-infrastruktúra | A Vera Rubin szállítását 2027-re tervezik; a Mistral Large 4 modellt 3 800 Grace Blackwell GPU-n tanították be a Mistral által üzemeltetett európai adatközpontokban. |
| CodeRabbit útválasztási modellje | Az útválasztási egyezési arány 75,8%-ról 80,7%-ra emelkedett, a becsült inferenciaköltség pedig 50%-kal csökkent az értékelt munkaterhelés esetében. |
| Nebius kiskereskedelmi ügynökei | A készletkezelést, az üzletüzemeltetést és a finomhangolást lefedő megoldáscsomagok korai hozzáférésű verziói elindultak. |
| OpenShell Reference Architecture | A GTC Berlin rendezvényen jelentették be partneri támogatással; célja az ügynökök hozzáférési határainak összehangolása a futtatókörnyezetet biztosító szoftverek, CPU-k és DPU-k között. |
Mi érhető el, mit teszteltek, és mi van még tervben?
Az NVIDIA regionális felhőpartnerekről és az ügynökök szabályozásáról szóló beszámolója több, különböző megvalósítási szakaszban lévő kezdeményezést fog össze. Fontos különbséget tenni közöttük: egy már éles üzemben működő modell, egy korai hozzáférésű szolgáltatás és egy jövőbeli hardverszállítás nem azonos azonnali elérhetőséget biztosít az ügyfelek számára.
A Mistral bővítése jól példázza ezt a különbséget. A Vera Rubin infrastruktúra szállítását 2027-re tervezik. Az NVIDIA külön kiemeli, hogy a Mistral Large 4 modellt 3 800 Grace Blackwell GPU-n tanították be a Mistral által üzemeltetett európai adatközpontokban. A modell fejlesztése lezárultként szerepel, a következő infrastruktúra-szállítás azonban még előttük áll.
A Verda szintén tervezi a Vera Rubin telepítését, ugyanakkor az NVIDIA Nemotron és Cosmos nyílt súlyú modelljei már éles üzemben működnek nála. Emellett a Dynamo nyílt forráskódú keretrendszert használja az inferencia optimalizálására.
A speciális szolgáltatások hasznosítják a regionális kapacitást
A fejlesztők számára az a gyakorlati kérdés, hogy mire használható a többletinfrastruktúra. A partneri tájékoztató kódellenőrzést, robotikát, kiskereskedelmi ügynököket és vállalati modellalapú szolgáltatásokat emel ki, nem pedig önmagában a számítási kapacitást tekinti kész terméknek.
A Baseten a Nemotron 3.5 Lightning használatával fejlesztett speciális kódellenőrzési útválasztási modellt a CodeRabbit számára. Az irányított finomhangolást és megerősítéses tanulást követően az útválasztási egyezési arány 75,8%-ról 80,7%-ra javult, miközben az értékelt munkaterhelés becsült inferenciaköltsége 50%-kal csökkent. A költségadat az adott munkaterhelésre vonatkozó becslés, nem pedig a modellhasználat általános költségcsökkenése.
A Nebius átvette az NVIDIA Groq 3 LPX-et, és Spectrum-X Ethernet-hálózatot használ annak Vera Rubin NVL72 rendszerekkel való integrálására a Token Factory platformján. Az NVIDIA szerint ez a kombináció felgyorsítja a tokenek generálását a késleltetésre érzékeny alkalmazásokban és ügynöki rendszerekben, felügyelt, szerver nélküli szolgáltatásokon és dedikált végpontokon keresztül.
A Nebius emellett olyan Physical AI Workbench megoldást kínál, amelyet többek között a Rhoda AI, a RoboForce és a Sereact robotikai vállalatok használnak. A készletkezelést, az üzletüzemeltetést és a finomhangolást lefedő NVIDIA kiskereskedelmiügynök-megoldáscsomagjai korai hozzáférésű verzióban már elérhetők.
A Fireworks és az Era4 más utat választ: az Era4 chesterfieldi létesítményében közvetlenül elérhető, folyadékhűtéses Blackwell Ultra kapacitást modellbetanítási és inferenciaszolgáltatásokkal ötvözik. Partnerségük a pénzügyi szolgáltatások, a biztosítás és az élettudományok területére szánt vállalati alkalmazásokra vonatkozó terveket támogatja.
Az ügynökök szabályozása a szoftverre és a hardverre is kiterjed
Az AI-modellek üzleti eszközökhöz való csatlakoztatásához a megfelelő számítási kapacitás biztosításán túl egy másik feltételnek is teljesülnie kell: a szervezeteknek meg kell határozniuk és érvényesíteniük kell, hogy az ügynökök mihez férhetnek hozzá, és milyen műveleteket végezhetnek. A GTC Berlin rendezvényen bejelentett OpenShell Reference Architecture célja, hogy a telepítési verem egészében kezelje ezeket a hozzáférési határokat.
Az architektúra különböző feladatokat rendel az egyes összetevőkhöz. A Vera Rubin NVL72 végzi a modellinferenciát; az OpenShell-t támogató Vera CPU-k biztosítják az ügynökkeretrendszereket és az eszközhasználatot; a NVIDIA Sentryt futtató BlueField-4 DPU-k pedig szilíciumszinten érvényesítik a szabályokat. Az architektúra alapját az OpenShell biztonságos futtatókörnyezetet biztosító szoftvere adja.
A támogatók között olyan felhő- és modellalapú szolgáltatók szerepelnek, mint a Baseten, a CoreWeave, a Crusoe, a DigitalOcean, a Fireworks, a Nebius, az Nscale és a Vultr. A beszámoló biztonságos ügynöktelepítést célzó ökoszisztéma-támogatásról szól, nem pedig minden megnevezett partnernél már lezárult bevezetésről.
Összegzés
A tájékoztató a regionális számításiinfrastruktúra-beruházásokat konkrét munkaterhelésekkel és az ügynökök hozzáférését szabályozó megoldásokkal kapcsolja össze. A legerősebb bizonyítékot a mért teszteredmények és a már használatban lévő szolgáltatások jelentik; a tervezett Vera Rubin-telepítések és az OpenShell szélesebb körű bevezetése a következő szakaszt képviselik, nem pedig már megvalósult kapacitást.
További hírek
Jogi nyilatkozat
Ez a FinanceVelix-cikk általános tájékoztatást nyújt, nem minősül személyre szabott pénzügyi, befektetési, jogi vagy adótanácsadásnak. A piaci árak, a kamatlábak és a gazdasági körülmények változhatnak; a befektetések veszteség kockázatával járnak. A tények a közzététel időpontjában rendelkezésre álló információkat tükrözik, és változhatnak. A fontos információkat önállóan is ellenőrizze, és szükség esetén forduljon képzett szakemberhez. Egy eszköz, vállalat vagy szolgáltatás említése nem jelent ajánlást.
