NVIDIA kunngjorde NVIDIA DSX POD på GTC Berlin 21. oktober. Løsningen tilbyr en modulær tilnærming til AI-fabrikker som ifølge selskapet kan redusere utrullingen på stedet fra seks måneder til 14 dager når infrastrukturen på anlegget er klar. Referansedesignet pakker komplette Vera Rubin-systemer i containere som partnerne bygger, integrerer og validerer før levering, slik at mer av installasjonsarbeidet flyttes bort fra kundens anlegg.

Viktige punkter

  • DSX POD er et referansedesign for modulære Vera Rubin-AI-fabrikker, bygget av partnere. Den kortere utrullingstiden forutsetter at infrastrukturen på anlegget er klar.
  • NVIDIA fulgte opp infrastrukturkunngjøringene med nye design for agentsikkerhet og verktøy for å koble agenter til virksomheters kunnskapsgrunnlag.
  • Huang satte lanseringene inn i rammen av NVIDIAs ekspansjon i Europa og viste til nærmere 10 milliarder dollar i forpliktelser til regionens teknologiøkosystem.

Innholdsfortegnelse

NVIDIA DSX POD flytter integreringen til før levering

Den viktigste endringen gjelder hvor en AI-fabrikk settes sammen. I stedet for å vente med integrering og validering til utstyret har nådd bestemmelsesstedet, innebærer DSX POD at partnerne fullfører disse trinnene i modulære containere før de sendes. NVIDIA presenterte dette som en endring i forsyningskjeden for bygging av datasentre, ikke bare som enda et tilbud innen maskinvare på racknivå.

Dette skillet er viktig når man tolker påstanden om utrullingstiden. Tidsrommet på 14 dager gjelder utrulling på stedet etter at infrastrukturen er klar; det er ikke en oppgitt tidsplan for hele prosjektet. Rapporten fastsetter ikke en samlet byggetidsplan og oppgir heller ikke priser på DSX POD eller leveringsdatoer til kunder.

Huang sa at Vera Rubin er i full produksjon, og at løsningen utvider NVIDIAs databehandlingsplattform fra enkeltmodeller og store språkmodeller til behandling av hele AI-agenten. Han beskrev den bredere AI-fabrikkplattformen som en kombinasjon av maskinvare, systemprogramvare, CUDA-X-biblioteker og modeller.

ElementDetaljer
DSX PODNytt referansedesign for komplette Vera Rubin-AI-fabrikker som partnere setter sammen, integrerer og validerer i modulære containere.
Tidsplan for utrullingNVIDIA sier at utrullingen på stedet kan forkortes fra seks måneder til 14 dager når infrastrukturen på anlegget er klar.
Påstander om DSX-effektivitetIfølge NVIDIA kan den bredere plattformen redusere vannforbruket til kjøling med opptil 100 % og bruke opptil 30 % mindre strøm for samme AI-resultat.
Referansearkitektur for OpenShellNytt sikkerhetsdesign som kombinerer policykontroller, sandkasse på kjernenivå og overvåking mellom agenter og systemene de kan påvirke.
Agent Knowledge FoundationNye modeller og biblioteker kobler agenter til dokumenter og strukturert databaseinformasjon i virksomheter.
Adaptiv strålebehandlingNVIDIA og Siemens Healthineers utvikler et AI-aktivert system; rapporten beskriver det ikke som en ferdig utrulling.

Europas AI-satsing kobler kapital med driftseffektivitet

Hovedinnlegget i Berlin fulgte etter NVIDIAs besøk i Paris, London, Stockholm og Dublin. Ifølge selskapets egen fremstilling forplikter NVIDIA seg til nærmere 10 milliarder dollar til Europas teknologiøkosystem og samarbeider med mer enn 12 000 partnere. Dette er et beløp selskapet har forpliktet seg til, ikke en opplysning om at hele summen allerede er brukt.

Huangs argument var at europeiske selskaper bør produsere AI, ikke bare bruke den. Han trakk fram selskaper som L’Oréal, Revolut, Spotify, Merck, Vodafone, Porsche og HSBC som europeiske virksomheter som samarbeider med NVIDIA om AI, og satte dermed infrastrukturkunngjøringene inn i en eksisterende næringslivskontekst.

NVIDIA sa også at DSX AI Factory Platform kan redusere vannforbruket til kjøling med opptil 100 % og levere samme AI-resultat med opptil 30 % mindre strøm. Dette er oppgitte egenskaper ved den bredere plattformen, atskilt fra påstanden om utrullingstiden for DSX POD. Rapporten fra hovedinnlegget oppgir ikke prosjektspecifikke driftsresultater for disse besparelsene.

Agentsikkerhet blir en del av infrastrukturen

Raskere utrulling av infrastruktur var bare en del av NVIDIAs budskap. Huang beskrev agenter som systemer som kombinerer en modell med et orkestreringsrammeverk, minne, en sandkasse, kunnskap og verktøy. Fordi de kan få tilgang til filer, nettverk og andre ressurser, gjør nytten deres det også nødvendig å kontrollere hva de får lov til å gjøre.

NVIDIA introduserte OpenShell Reference Architecture for Safe AI Agents for å løse dette problemet. Det er et fullstakkdesign bygget på OpenShell, et åpen kildekode-kjøremiljø med policykontroll og sandkasse på kjernenivå, plassert mellom en agent og systemene den kan påvirke.

Huang sa at agenters privilegier bør begrenses til et minimum, og at aktiviteten deres bør overvåkes, samtidig som tillatelser og håndheving av policyer tilpasses dynamisk. I praksis er forskjellen mellom å gi en agent tilgang til et verktøy og å gi den ubegrenset tilgang til systemet rundt. NVIDIA presenterte sikkerhet som et teknisk krav for utrulling av agenter, ikke som en egenskap ved den underliggende modellen alene.

Virksomheters kunnskapsgrunnlag er neste lag i utrullingen

NVIDIAs Agent Knowledge Foundation retter seg mot en egen utfordring: å koble en agent til informasjon en virksomhet allerede har. Den nylig introduserte samlingen av modeller og biblioteker dekker både ustrukturerte dokumenter og strukturert databaseinformasjon.

Verktøyene som ble trukket fram, omfatter Nemotron-funksjoner for dokumenttolking, innbygging av søk og rangering av relevant informasjon på nytt, samt nye Kumo-modeller for prediksjoner basert på strukturerte data. Disse funksjonene kobler agentens resonnering til virksomhetsspesifikt materiale, i stedet for at agenten bare baserer seg på kunnskap i en generell modell.

Huang beskrev også NVIDIAs åpne modeller som utgangspunkt som selskaper kan videretrene på proprietære data for bestemte bruksområder. CUDA-X-bibliotekene utgjør en annen komponent: akselererte simulatorer, løsnere og databehandlingsmotorer som agenter kan bruke som verktøy. Samlet beskriver kunngjøringene en driftsstakk som omfatter tillatelser, kunnskap og utførelse.

Industrielle eksempler viser ulike stadier av innføringen

En video fra hovedinnlegget illustrerte hvordan komponentene kan fungere sammen. Hos Lila Sciences bidro agenter til å utforme en mulig behandling for B-cellelymfom gjennom virtuelle eksperimenter som styrte et automatisert laboratorium. Ved Siemens’ fabrikk i Erlangen bidro agenter til å klargjøre produkter for produksjon ved å teste planer i en digital tvilling. Et eksempel fra Dassault Systèmes viste ingeniøragenter som brukte simulering til å avdekke et problem i et kjøretøydesign og forbedre utformingen.

Disse demonstrasjonene bør skilles fra prosjekter som fortsatt er under utvikling. NVIDIA og Siemens Healthineers utvikler AI-aktivert strålebehandling som kombinerer agenter for behandlingsplanlegging, digitale tvillinger samt direkte bildedata og sensordata. Det beskrevne systemet skal tilpasse målrettingen etter hvert som pasientens kropp og svulst endrer seg under behandlingen.

Eksemplene viser et konkret formål med infrastrukturstrategien: agenter som kan arbeide med spesialiserte data og verktøy i laboratorier, fabrikker og tekniske miljøer. De dokumenterer ikke i seg selv at alle teknologiene som er kunngjort, er kommersielt tatt i bruk, eller at de påståtte infrastrukturgevinstene er oppnådd på disse stedene.

Konklusjon

DSX POD gir NVIDIAs AI-satsing i Europa et konkret infrastrukturtilbud: Flytt integreringen ut av anlegget og forkort utrullingen når infrastrukturen er klar. De tilhørende verktøyene for sikkerhet og kunnskap tar for seg hvordan virksomheter kan bruke agenter på denne infrastrukturen, mens priser, leveringsplaner og effektivitetsresultater på prosjektnivå ikke er oppgitt i rapporten fra hovedinnlegget.

Les flere nyheter

Flere nyheter fra FinanceVelix

Ansvarsfraskrivelse

Denne FinanceVelix-artikkelen gir generell informasjon og utgjør ikke personlig finansiell, investeringsmessig, juridisk eller skattemessig rådgivning. Markedspriser, renter og økonomiske forhold kan endre seg; investeringer innebærer risiko for tap. Fakta gjenspeiler materialet som var tilgjengelig da artikkelen ble publisert, og kan endre seg. Kontroller viktig informasjon uavhengig, og rådfør deg med en kvalifisert fagperson ved behov. Omtale av en eiendel, et selskap eller en tjeneste er ikke en anbefaling.