NVIDIA annoncerede NVIDIA DSX POD på GTC Berlin den 21. oktober. Løsningen tilbyder en modulær tilgang til AI-fabrikker, som ifølge selskabet kan reducere udrulningen på stedet fra seks måneder til 14 dage, når forsyningsinfrastrukturen på stedet er klar. Referencedesignet samler komplette Vera Rubin-systemer i containere, som partnere bygger, integrerer og validerer inden levering, så en større del af installationsarbejdet flyttes væk fra kundens lokation.

Vigtigste pointer

  • DSX POD er et partnerbygget referencedesign til modulære Vera Rubin-AI-fabrikker, og den kortere udrulningsperiode forudsætter, at forsyningsinfrastrukturen på stedet er klar.
  • NVIDIA fulgte sine infrastrukturannonceringer op med nye designs til agentsikkerhed og værktøjer, der forbinder agenter med virksomheders viden.
  • Huang placerede lanceringerne som led i NVIDIAs ekspansion i Europa og henviste til tilsagn på næsten 10 mia. dollar til regionens teknologiske økosystem.

Indholdsfortegnelse

NVIDIA DSX POD flytter integrationen frem til før leveringen

Den centrale ændring handler om, hvor en AI-fabrik samles. I stedet for at vente med integration og validering, til udstyret når frem til bestemmelsesstedet, lægger DSX POD op til, at partnere udfører disse trin i modulære containere inden afsendelse. NVIDIA præsenterede dette som en ændring af forsyningskæden for opførelse af datacentre – ikke blot som endnu et hardwareprodukt i rackskala.

Forskellen er vigtig, når tidsplanen for udrulningen skal fortolkes. Perioden på 14 dage gælder udrulning på stedet, efter at forsyningsinfrastrukturen er klar; der er ikke tale om en angivet tidsplan for hele projektet. Rapporten fastlægger ikke en samlet byggeplan eller oplyser priser på DSX POD og leveringsdatoer til kunder.

Huang sagde, at Vera Rubin er i fuld produktion og udvider NVIDIAs computerplatform fra individuelle modeller og store sprogmodeller til behandling af hele AI-agenten. Han beskrev den bredere AI-fabriksplatform som en kombination af hardware, systemsoftware, CUDA-X-biblioteker og modeller.

ElementDetaljer
DSX PODNyt referencedesign til komplette Vera Rubin-AI-fabrikker, som partnere samler, integrerer og validerer i modulære containere.
Tidsplan for udrulningNVIDIA siger, at udrulningen på stedet kan forkortes fra seks måneder til 14 dage, når forsyningsinfrastrukturen på stedet er klar.
DSX-effektivitetsudsagnIfølge NVIDIA kan den bredere platform reducere vandforbruget til køling med op til 100 % og bruge op til 30 % mindre strøm til samme AI-output.
OpenShell-referencedesignNyt sikkerhedsdesign, der kombinerer politikstyring, sandboxing på kerneniveau og overvågning mellem agenter og de systemer, de kan påvirke.
Agent Knowledge FoundationNye modeller og biblioteker forbinder agenter med virksomhedsdokumenter og strukturerede databaseoplysninger.
Adaptiv strålebehandlingNVIDIA og Siemens Healthineers udvikler et AI-aktiveret system; rapporten beskriver det ikke som en færdig udrulning.

Europas AI-satsning forbinder kapital med driftseffektivitet

Berlin-keynoten fulgte efter NVIDIAs besøg i Paris, London, Stockholm og Dublin. Ifølge selskabets egen redegørelse forpligter NVIDIA sig til at bidrage med næsten 10 mia. dollar til Europas teknologiske økosystem og samarbejder med mere end 12.000 partnere. Der er tale om et tilsagn, ikke en oplysning om, at hele beløbet allerede er brugt.

Huangs budskab var, at europæiske virksomheder bør producere AI og ikke kun forbruge den. Han nævnte virksomheder som L’Oréal, Revolut, Spotify, Merck, Vodafone, Porsche og HSBC som europæiske selskaber, der arbejder med NVIDIA om AI, og satte dermed infrastrukturannonceringerne i forbindelse med en eksisterende erhvervskundekreds.

NVIDIA sagde også, at selskabets DSX AI Factory Platform kan reducere vandforbruget til køling med op til 100 % og levere samme AI-output med op til 30 % mindre strøm. Det er angivne egenskaber ved den bredere platform og adskiller sig fra DSX PODs påstand om kortere udrulningstid. Referatet af keynoten indeholder ikke projektspecifikke driftsresultater for disse besparelser.

Agentsikkerhed bliver en del af infrastrukturen

Hurtigere udrulning af infrastruktur var kun en del af NVIDIAs budskab. Huang beskrev agenter som systemer, der kombinerer en model med et orkestreringsmiljø, hukommelse, en sandbox, viden og værktøjer. Da de kan få adgang til filer, netværk og andre ressourcer, skaber deres anvendelighed også et behov for at kontrollere, hvad de har tilladelse til at gøre.

NVIDIA introducerede OpenShell Reference Architecture for Safe AI Agents for at løse dette problem. Det er et fuldt stakdesign, der bygger på OpenShell, et open source-runtime-miljø med politikstyring og sandboxing på kerneniveau, placeret mellem en agent og de systemer, den kan påvirke.

Huang sagde, at agenters privilegier bør begrænses til det nødvendige, og at deres aktivitet bør overvåges, mens tilladelser og håndhævelse af politikker tilpasses dynamisk. Den praktiske forskel ligger mellem at give en agent adgang til et værktøj og at give den ubegrænset adgang til det omgivende system. NVIDIA fremstillede sikkerhed som et teknisk krav til udrulning af agenter, snarere end som en egenskab, der alene ligger i den underliggende model.

Virksomheders viden er det næste lag i udrulningen

NVIDIAs Agent Knowledge Foundation retter sig mod en anden hindring: at forbinde en agent med de oplysninger, en virksomhed allerede har. Den nyligt introducerede samling af modeller og biblioteker omfatter både ustrukturerede dokumenter og strukturerede databaseoplysninger.

Blandt de fremhævede værktøjer er Nemotron-funktioner til dokumentparsing, indlejring af forespørgsler og omrangering af relevante oplysninger samt nye Kumo-modeller til forudsigelser baseret på strukturerede data. Disse funktioner forbinder agentens ræsonnement med virksomhedsspecifikt materiale i stedet for udelukkende at basere sig på viden i en generel model.

Huang beskrev også NVIDIAs åbne modeller som udgangspunkter, som virksomheder kan eftertræne på proprietære data til bestemte anvendelser. CUDA-X-bibliotekerne udgør endnu en komponent: accelererede simulatorer, løsnere og databehandlingsmotorer, som agenter kan anvende som værktøjer. Tilsammen beskriver annonceringerne en driftsstak, der omfatter tilladelser, viden og eksekvering.

Industrielle eksempler viser forskellige stadier af anvendelse

En video under keynoten illustrerede, hvordan disse komponenter kan fungere sammen. Hos Lila Sciences hjalp agenter med at designe en potentiel behandling af B-cellelymfom gennem virtuelle eksperimenter, der styrede et automatiseret laboratorium. På Siemens’ fabrik i Erlangen hjalp agenter med at klargøre produkter til produktion ved at afprøve planer i en digital tvilling. Et eksempel fra Dassault Systèmes viste tekniske agenter, der brugte simulering til at finde et problem i et køretøjsdesign og forbedre designet.

Disse demonstrationer bør adskilles fra projekter, der stadig er under udvikling. NVIDIA og Siemens Healthineers udvikler AI-aktiveret strålebehandling, der kombinerer agenter til behandlingsplanlægning, digitale tvillinger samt livebilleder og sensordata. Det beskrevne system skal tilpasse målretningen, efterhånden som patientens krop og tumor ændrer sig under behandlingen.

Eksemplerne giver infrastrukturstrategien et konkret formål: agenter, der kan arbejde med specialiserede data og værktøjer i laboratorier, fabrikker og tekniske miljøer. De dokumenterer ikke i sig selv, at alle annoncerede teknologier er kommercielt udrullet, eller at de påståede infrastrukturrelaterede besparelser er opnået på disse steder.

Konklusion

DSX POD giver NVIDIAs AI-satsning i Europa et konkret infrastrukturtilbud: Flyt integrationen væk fra stedet, og forkort udrulningen, når forsyningsinfrastrukturen er klar. De ledsagende sikkerheds- og vidensværktøjer adresserer, hvordan virksomheder kan drive agenter på denne infrastruktur, mens priser, leveringsplaner og projektspecifikke effektivitetsresultater ikke blev oplyst i referatet af keynoten.

Læs flere nyheder

Flere nyheder fra FinanceVelix

Ansvarsfraskrivelse

Denne artikel fra FinanceVelix indeholder generel information og udgør ikke personlig finansiel, investeringsmæssig, juridisk eller skattemæssig rådgivning. Markedspriser, renter og økonomiske forhold kan ændre sig; investeringer indebærer risiko for tab. Oplysningerne afspejler det tilgængelige materiale på udgivelsestidspunktet og kan ændre sig. Kontrollér vigtige oplysninger uafhængigt, og søg rådgivning hos en kvalificeret fagperson efter behov. Omtale af et aktiv, en virksomhed eller en tjeneste er ikke en anbefaling.