Spoločnosť NVIDIA predstavila NVIDIA DSX POD na podujatí GTC Berlin 21. októbra. Ide o modulárny prístup k budovaniu AI tovární, ktorý podľa spoločnosti môže skrátiť nasadenie priamo na mieste zo šiestich mesiacov na 14 dní, keď je technická infraštruktúra lokality pripravená. Referenčný návrh zahŕňa kompletné systémy Vera Rubin umiestnené v kontajneroch, ktoré partneri pred dodaním zostavia, integrujú a otestujú. Väčšia časť inštalačných prác tak prebieha mimo lokality zákazníka.
Kľúčové body
- DSX POD je referenčný návrh modulárnych AI tovární Vera Rubin, ktorý zostavujú partneri. Kratší čas nasadenia je podmienený pripravenosťou technickej infraštruktúry v lokalite.
- NVIDIA spojila oznámenia o infraštruktúre s novými návrhmi na zabezpečenie agentov a nástrojmi na ich prepájanie s podnikovými znalosťami.
- Huang zasadil tieto novinky do kontextu expanzie spoločnosti NVIDIA v Európe a uviedol, že jej záväzky voči technologickému ekosystému regiónu dosahujú takmer 10 miliárd dolárov.
Obsah
- NVIDIA DSX POD presúva integráciu pred dodanie
- Európska snaha o rozvoj AI spája kapitál s prevádzkovou efektívnosťou
- Zabezpečenie agentov sa stáva súčasťou infraštruktúry
- Podnikové znalosti predstavujú ďalšiu vrstvu nasadenia
- Priemyselné príklady ukazujú rôzne fázy adopcie
- Záver
NVIDIA DSX POD presúva integráciu pred dodanie
Ústrednou zmenou je miesto, kde vzniká AI továreň. Namiesto toho, aby sa integrácia a testovanie nechali až na čas po doručení zariadenia do cieľovej lokality, DSX POD predpokladá, že partneri tieto kroky dokončia v modulárnych kontajneroch ešte pred ich expedíciou. NVIDIA to predstavila ako zmenu v dodávateľskom reťazci výstavby dátových centier, nie iba ako ďalšiu ponuku hardvéru v rackovom meradle.
Toto rozlíšenie je dôležité pri interpretácii tvrdenia o čase nasadenia. Lehota 14 dní sa týka nasadenia priamo na mieste po pripravení technickej infraštruktúry; nejde o uvedený časový plán celého projektu. Správa neuvádza celkový harmonogram výstavby ani ceny DSX POD či termíny dodania zákazníkom.
Huang uviedol, že Vera Rubin je v plnej výrobe a rozširuje výpočtovú platformu NVIDIA nad rámec jednotlivých modelov a veľkých jazykových modelov na spracovanie celého AI agenta. Širšiu platformu AI továrne opísal ako kombináciu hardvéru, systémového softvéru, knižníc CUDA-X a modelov.
| Položka | Podrobnosti |
|---|---|
| DSX POD | Nový referenčný návrh kompletných AI tovární Vera Rubin, ktoré partneri zostavujú, integrujú a testujú v modulárnych kontajneroch. |
| Harmonogram nasadenia | NVIDIA uvádza, že nasadenie priamo na mieste sa môže po pripravení technickej infraštruktúry skrátiť zo šiestich mesiacov na 14 dní. |
| Tvrdenia o efektívnosti DSX | Podľa NVIDIA môže širšia platforma znížiť spotrebu chladiacej vody až o 100 % a pri rovnakom výstupe AI spotrebovať až o 30 % menej energie. |
| Referenčná architektúra OpenShell | Nový bezpečnostný návrh spája riadenie politík, izoláciu na úrovni jadra a monitorovanie medzi agentmi a systémami, na ktoré môžu vplývať. |
| Agent Knowledge Foundation | Nové modely a knižnice prepájajú agentov s podnikovými dokumentmi a štruktúrovanými databázovými informáciami. |
| Adaptívna rádioterapia | NVIDIA a Siemens Healthineers vyvíjajú systém s podporou AI; správa ho neopisuje ako už dokončené nasadenie. |
Európska snaha o rozvoj AI spája kapitál s prevádzkovou efektívnosťou
Prednáška v Berlíne nasledovala po návštevách NVIDIA v Paríži, Londýne, Štokholme a Dubline. Podľa vyjadrenia spoločnosti NVIDIA smeruje do technologického ekosystému Európy záväzky v hodnote takmer 10 miliárd dolárov a spolupracuje s viac než 12 000 partnermi. Ide o sumu záväzkov, nie o tvrdenie, že už bola v plnej výške vynaložená.
Huang tvrdil, že európske spoločnosti by mali AI nielen využívať, ale aj vytvárať. Medzi európske firmy spolupracujúce s NVIDIA v oblasti AI zaradil L’Oréal, Revolut, Spotify, Merck, Vodafone, Porsche a HSBC. Oznámenia o infraštruktúre tak zasadil do kontextu existujúcej podnikovej klientely.
NVIDIA tiež uviedla, že jej platforma DSX AI Factory Platform môže znížiť spotrebu vody na chladenie až o 100 % a dosiahnuť rovnaký výstup AI pri spotrebe až o 30 % menšieho množstva energie. Ide o uvádzané možnosti širšej platformy, ktoré treba odlišovať od tvrdenia o čase nasadenia DSX POD. Správa z prednášky neuvádza prevádzkové výsledky týchto úspor pri konkrétnych projektoch.
Zabezpečenie agentov sa stáva súčasťou infraštruktúry
Rýchlejšie nasadzovanie infraštruktúry bolo len jednou časťou prezentácie NVIDIA. Huang opísal agentov ako systémy, ktoré spájajú model s koordinačným mechanizmom, pamäťou, izolovaným prostredím, znalosťami a nástrojmi. Keďže môžu pristupovať k súborom, sieťam a ďalším zdrojom, ich užitočnosť zároveň prináša potrebu kontrolovať, čo smú robiť.
NVIDIA predstavila referenčnú architektúru OpenShell pre bezpečných AI agentov, ktorá má tento problém riešiť. Ide o návrh s kompletným technologickým zásobníkom postavený na OpenShell, otvorenom behovom prostredí s riadením na základe politík a izoláciou na úrovni jadra, ktoré sa nachádza medzi agentom a systémami, na ktoré môže vplývať.
Huang uviedol, že oprávnenia agentov by mali byť minimálne a ich činnosť monitorovaná, pričom oprávnenia a vynucovanie politík by sa mali dynamicky prispôsobovať. Praktický rozdiel spočíva v tom, či agent dostane prístup k nástroju, alebo neobmedzený prístup k okolitému systému. NVIDIA predstavila zabezpečenie ako technickú podmienku nasadzovania agentov, nie ako vlastnosť samotného základného modelu.
Podnikové znalosti predstavujú ďalšiu vrstvu nasadenia
Agent Knowledge Foundation od NVIDIA rieši samostatnú prekážku: prepojenie agenta s informáciami, ktoré už podnik vlastní. Novopredstavená kolekcia modelov a knižníc zahŕňa neštruktúrované dokumenty aj štruktúrované databázové informácie.
Medzi predstavené nástroje patria funkcie Nemotron na analýzu dokumentov, vkladanie dopytov do vektorových reprezentácií a zoraďovanie relevantných informácií, ako aj nové modely Kumo na predikcie zo štruktúrovaných dát. Tieto funkcie prepájajú proces uvažovania agenta s materiálmi špecifickými pre danú spoločnosť, namiesto spoliehania sa iba na znalosti obsiahnuté vo všeobecnom modeli.
Huang predstavil aj otvorené modely NVIDIA ako východiskové body, ktoré môžu spoločnosti dodatočne trénovať na vlastných dátach na konkrétne účely. Ďalšou súčasťou sú knižnice CUDA-X: zrýchlené simulátory, riešiče a nástroje na spracovanie dát, ktoré môžu agenti používať. Oznámenia spolu opisujú prevádzkový zásobník zahŕňajúci oprávnenia, znalosti a vykonávanie úloh.
Priemyselné príklady ukazujú rôzne fázy adopcie
Video z prednášky ukázalo, ako by tieto komponenty mohli spolupracovať. V spoločnosti Lila Sciences agenti pomáhali navrhovať potenciálnu liečbu B-bunkového lymfómu prostredníctvom virtuálnych experimentov, ktoré usmerňovali automatizované laboratórium. V závode spoločnosti Siemens v Erlangene agenti pomáhali pripravovať výrobky na výrobu testovaním plánov v digitálnom dvojčati. Príklad spoločnosti Dassault Systèmes ukázal, ako inžinierske agenty pomocou simulácie identifikovali problém v návrhu vozidla a následne návrh upravili.
Tieto ukážky treba odlišovať od projektov, ktoré sú stále vo vývoji. NVIDIA a Siemens Healthineers vyvíjajú rádioterapiu s podporou AI, ktorá spája agentov na plánovanie liečby, digitálne dvojčatá a živé zobrazovacie a senzorové dáta. Opísaný systém by počas liečby prispôsoboval zameranie podľa zmien v tele pacienta a nádore.
Príklady dávajú infraštruktúrnej stratégii konkrétny účel: agentov, ktorí dokážu pracovať so špecializovanými dátami a nástrojmi v laboratóriách, továrňach a inžinierskych prostrediach. Samy osebe však nedokazujú, že všetky oznámené technológie sú komerčne nasadené alebo že sa na týchto miestach dosiahli uvádzané úspory na infraštruktúre.
Záver
DSX POD dáva snahe NVIDIA o rozvoj AI v Európe konkrétnu infraštruktúrnu ponuku: presunúť integráciu mimo lokality a po pripravení technickej infraštruktúry skrátiť čas nasadenia. Súvisiace nástroje na zabezpečenie a prácu so znalosťami riešia spôsob, akým by podniky na tejto infraštruktúre prevádzkovali agentov. Správa z prednášky však neuvádza ceny, harmonogramy dodania ani výsledky efektívnosti na úrovni jednotlivých projektov.
Ďalšie správy
Upozornenie
Tento článok FinanceVelix poskytuje všeobecné informácie, nie personalizované finančné, investičné, právne ani daňové poradenstvo. Trhové ceny, úrokové sadzby a ekonomické podmienky sa môžu meniť; investície sú spojené s rizikom straty. Fakty vychádzajú z materiálov dostupných v čase zverejnenia a môžu sa zmeniť. Dôležité informácie si overte nezávisle a podľa potreby sa obráťte na kvalifikovaného odborníka. Uvedenie aktíva, spoločnosti alebo služby nepredstavuje odporúčanie.
