Az NVIDIA október huszonegyedikén, a GTC Berlin rendezvényen jelentette be az NVIDIA DSX POD-ot, amely moduláris megközelítést kínál az AI-gyárak kialakításához. A vállalat szerint a helyszíni telepítés időtartama hat hónapról 14 napra csökkenthető, amint a közművek rendelkezésre állnak a helyszínen. A referencia-architektúra teljes Vera Rubin-rendszereket foglal konténerekbe, amelyeket a partnerek a kiszállítás előtt megépítenek, integrálnak és validálnak, így a telepítési munka nagyobb része nem az ügyfél helyszínén zajlik.
Legfontosabb tudnivalók
- A DSX POD a partnerek által kialakított referencia-architektúra moduláris Vera Rubin AI-gyárakhoz; a rövidebb telepítési idő feltétele, hogy a közművek rendelkezésre álljanak a helyszínen.
- Az NVIDIA az infrastruktúrával kapcsolatos bejelentései mellett új megoldásokat mutatott be az ügynökök biztonságához, valamint az ügynököket a vállalati tudásanyaghoz kapcsoló eszközöket.
- Huang a bejelentéseket az NVIDIA európai terjeszkedésének részeként mutatta be, és közel 10 milliárd dolláros, a régió technológiai ökoszisztémáját érintő kötelezettségvállalásra hivatkozott.
Tartalomjegyzék
- Az NVIDIA DSX POD révén az integráció megelőzi a kiszállítást
- Európa AI-törekvései a tőkét a működési hatékonysággal kapcsolják össze
- Az ügynökök biztonsága az infrastruktúra részévé válik
- A vállalati tudás a telepítés következő rétege
- Az ipari példák az alkalmazás különböző szakaszait mutatják be
- Következtetés
Az NVIDIA DSX POD révén az integráció megelőzi a kiszállítást
A legfontosabb változás az, hogy hol áll össze az AI-gyár. Ahelyett, hogy az integrációt és a validálást a berendezések célállomásra érkezése után végeznék el, a DSX POD szerint a partnerek ezeket a lépéseket a kiszállítás előtt, moduláris konténerekben végzik el. Az NVIDIA ezt az adatközpont-építés ellátási láncának átalakításaként mutatta be, nem pusztán egy újabb, rackméretű hardverkínálatként.
A különbség fontos a telepítési időre vonatkozó állítás értelmezésekor. A 14 napos időtartam a közművek rendelkezésre állását követő helyszíni telepítésre vonatkozik; nem jelenti a teljes projekt megadott ütemezését. A beszámoló nem állapít meg teljes kivitelezési ütemtervet, és nem közli a DSX POD árazását vagy az ügyfeleknek történő kiszállítás dátumait.
Huang szerint a Vera Rubin teljes gyártásban van, és az NVIDIA számítási platformját az egyedi modelleken és a nagy nyelvi modelleken túl kiterjeszti a teljes AI-ügynök feldolgozására. A tágabb AI-gyárplatformot a hardver, a rendszerszoftver, a CUDA-X-könyvtárak és a modellek kombinációjaként írta le.
| Tétel | Részletek |
|---|---|
| DSX POD | Új referencia-architektúra teljes Vera Rubin AI-gyárakhoz, amelyeket a partnerek moduláris konténerekben szerelnek össze, integrálnak és validálnak. |
| Telepítési ütemezés | Az NVIDIA szerint a közművek rendelkezésre állását követően a helyszíni telepítés időtartama hat hónapról 14 napra csökkenthető. |
| A DSX hatékonyságra vonatkozó állításai | Az NVIDIA szerint a tágabb platform akár 100%-kal csökkentheti a hűtéshez felhasznált víz mennyiségét, és ugyanakkora AI-teljesítményhez akár 30%-kal kevesebb energiát használhat. |
| OpenShell referencia-architektúra | Az új biztonsági kialakítás szabályozási kontrollokat, kernel szintű izolált környezetet, valamint az ügynökök és az általuk érintett rendszerek közötti felügyeletet egyesíti. |
| Agent Knowledge Foundation | Új modellek és könyvtárak kapcsolják össze az ügynököket a vállalati dokumentumokkal és az adatbázisok strukturált információival. |
| Adaptív sugárterápia | Az NVIDIA és a Siemens Healthineers AI-alapú rendszert fejleszt; a beszámoló nem írja le befejezett telepítésként. |
Európa AI-törekvései a tőkét a működési hatékonysággal kapcsolják össze
A berlini nyitóelőadást az NVIDIA párizsi, londoni, stockholmi és dublini látogatása előzte meg. A vállalat tájékoztatása szerint az NVIDIA közel 10 milliárd dollárt vállal az európai technológiai ökoszisztémában, és több mint 12 000 partnerrel dolgozik együtt. Ez kötelezettségvállalási összeg, nem pedig annak állítása, hogy a teljes összeget már elköltötték.
Huang érvelése szerint az európai vállalatoknak nemcsak használniuk kell az AI-t, hanem elő is kell állítaniuk. Az NVIDIA-val AI-projekteken dolgozó európai cégek között olyan vállalatokat nevezett meg, mint a L’Oréal, a Revolut, a Spotify, a Merck, a Vodafone, a Porsche és a HSBC, így az infrastruktúrával kapcsolatos bejelentéseket a meglévő vállalati ügyfélkörrel hozta összefüggésbe.
Az NVIDIA azt is közölte, hogy a DSX AI Factory Platform akár 100%-kal csökkentheti a hűtéshez felhasznált víz mennyiségét, és ugyanakkora AI-teljesítményt akár 30%-kal kevesebb energia felhasználásával biztosíthat. Ezek a tágabb platform képességeire vonatkozó állítások, nem a DSX POD telepítési idejére vonatkoznak. A nyitóelőadásról szóló beszámoló nem közöl projektspecifikus működési adatokat ezekről a megtakarításokról.
Az ügynökök biztonsága az infrastruktúra részévé válik
A gyorsabb infrastruktúra-telepítés csak az egyik eleme volt az NVIDIA bemutatójának. Huang az ügynököket olyan rendszerekként írta le, amelyek egy modellt koordinációs keretrendszerrel, memóriával, izolált környezettel, tudással és eszközökkel kapcsolnak össze. Mivel hozzáférhetnek fájlokhoz, hálózatokhoz és más erőforrásokhoz, hasznosságuk egyúttal szükségessé teszi annak korlátozását, hogy mit tehetnek.
Az NVIDIA az OpenShell Reference Architecture for Safe AI Agents bejelentésével kívánja kezelni ezt a problémát. Ez egy teljes rendszerre kiterjedő kialakítás, amely az OpenShellre épül: egy nyílt forráskódú, szabályozott futtatókörnyezetre, amely kernel szintű izolált környezetet biztosít az ügynök és az általa érinthető rendszerek között.
Huang szerint az ügynökök jogosultságait minimálisra kell szorítani, tevékenységüket pedig felügyelni kell; a hozzáférési engedélyeknek és a szabályok érvényesítésének dinamikusan kell alkalmazkodniuk. A gyakorlati különbség abban áll, hogy egy ügynök hozzáférést kap-e egy eszközhöz, vagy korlátozás nélkül hozzáférhet a környező rendszerhez. Az NVIDIA a biztonságot az ügynökök telepítésének mérnöki követelményeként mutatta be, nem pedig az alapul szolgáló modell önálló tulajdonságaként.
A vállalati tudás a telepítés következő rétege
Az NVIDIA Agent Knowledge Foundation egy másik akadályt céloz meg: az ügynökök összekapcsolását azokkal az információkkal, amelyekkel egy vállalat már rendelkezik. Az újonnan bemutatott modellek és könyvtárak gyűjteménye a strukturálatlan dokumentumokat és az adatbázisok strukturált információit egyaránt lefedi.
A kiemelt eszközök között szerepelnek a dokumentumok feldolgozására, a lekérdezések beágyazására és a releváns információk újrarangsorolására szolgáló Nemotron-képességek, valamint az új Kumo-modellek strukturált adatokból készülő előrejelzésekhez. Ezek a funkciók az ügynök következtetési folyamatát a vállalatspecifikus anyagokkal kapcsolják össze, ahelyett hogy kizárólag egy általános modellben tárolt tudásra támaszkodnának.
Huang az NVIDIA nyílt modelljeit olyan kiindulási alapokként is bemutatta, amelyeket a vállalatok saját, bizalmas adataikon továbbtaníthatnak adott felhasználási célokra. A CUDA-X-könyvtárak egy további összetevőt biztosítanak: gyorsított szimulátorokat, megoldóprogramokat és adatfeldolgozó motorokat, amelyeket az ügynökök eszközként használhatnak. A bejelentések együtt a jogosultságkezeléstől és a tudásanyagtól a végrehajtásig terjedő működési rendszert vázolnak fel.
Az ipari példák az alkalmazás különböző szakaszait mutatják be
A nyitóelőadás videója bemutatta, hogyan működhetnek együtt ezek az összetevők. A Lila Sciencesnél az ügynökök egy lehetséges B-sejtes limfóma-terápia megtervezésében segítettek, virtuális kísérletekkel irányítva egy automatizált laboratóriumot. A Siemens erlangeni gyárában az ügynökök a digitális ikerben végzett tervteszteléssel segítették a termékek gyártásra való előkészítését. A Dassault Systèmes egyik példájában a mérnöki ügynökök szimulációval azonosítottak egy járműtervezési problémát, majd finomították a tervet.
Ezeket a bemutatókat meg kell különböztetni a még fejlesztés alatt álló projektektől. Az NVIDIA és a Siemens Healthineers AI-alapú sugárterápiás megoldást fejleszt, amely kezeléstervező ügynököket, digitális ikreket, valamint valós idejű képalkotási és szenzoradatokat egyesít. A leírt rendszer a kezelés során a beteg testének és daganatának változásaihoz igazítaná a besugárzás célzását.
A példák kézzelfogható célt adnak az infrastruktúra-stratégiának: olyan ügynökök létrehozását, amelyek speciális adatokkal és eszközökkel dolgozhatnak laboratóriumokban, gyárakban és mérnöki környezetben. Önmagukban azonban nem bizonyítják, hogy minden bejelentett technológiát kereskedelmi forgalomban alkalmaznak, vagy hogy az említett infrastruktúra-megtakarításokat ezeken a helyszíneken már elérték.
Következtetés
A DSX POD konkrét infrastrukturális ajánlattal egészíti ki az NVIDIA európai AI-törekvéseit: az integrációt a helyszínen kívülre helyezi, és a közművek rendelkezésre állása után lerövidíti a telepítést. A kapcsolódó biztonsági és tudáskezelési eszközök arra adnak választ, hogyan működtethetik a vállalatok az ügynököket ezen az infrastruktúrán; az árazás, a szállítási ütemtervek és a projektszintű hatékonysági eredmények azonban nem szerepelnek a nyitóelőadásról szóló beszámolóban.
További hírek
Jogi nyilatkozat
Ez a FinanceVelix-cikk általános tájékoztatást nyújt, nem minősül személyre szabott pénzügyi, befektetési, jogi vagy adótanácsadásnak. A piaci árak, a kamatlábak és a gazdasági körülmények változhatnak; a befektetések veszteség kockázatával járnak. A tények a közzétételkor rendelkezésre álló információkat tükrözik, és változhatnak. A fontos információkat ellenőrizze önállóan, és szükség esetén forduljon képzett szakemberhez. Egy eszköz, vállalat vagy szolgáltatás említése nem jelent ajánlást.
