NVIDIA Confidential Computing legger til Confidential Bare Metal, et distribusjonsalternativ som skal gjøre det mulig for utviklere av avanserte modeller å kjøre sensitive arbeidsbelastninger på dedikert tredjepartsinfrastruktur, samtidig som de beholder kontrollen over modellene, dataene og programvarestakken sin. Utvidelsen gir utviklere en ny måte å bruke ekstern datakapasitet på uten å ta i bruk et virtualisert miljø.
Viktige punkter
- Confidential Bare Metal lar utviklere av modeller kjøre sin egen programvarestakk på dedikert NVIDIA-infrastruktur fra tredjeparter.
- Cohere planlegger å integrere alternativet i Model Vault, mens Google Cloud utvider støtten til A4X Max-instanser.
- Plattformstøtten utvides til Grace Blackwell- og Rubin-systemer. Støtte for DSX OS og funksjoner fra systempartnere er planlagt.
Innholdsfortegnelse
- Hva NVIDIA Confidential Computing endrer
- Forskjeller mellom distribusjonsalternativene
- Hva Cohere og Google Cloud gjør
- Status for plattformstøtten
- Konklusjon
Hva NVIDIA Confidential Computing endrer
Den sentrale endringen er å kombinere beskyttelse fra konfidensiell databehandling med kontroll over et bare-metal-programvaremiljø. NVIDIA sier at utviklere av modeller kan eie og drifte en skreddersydd stakk, inkludert verts- og plattforminfrastrukturprogramvare, på tvers av tredjeparts skyer, neoskyer og bedriftsinfrastruktur.
Selskapet innfører plattformsikkerhetskontroller som skal beskytte data under overføring, måle plattformintegritet og håndheve tilgangsbegrensninger på maskinvarenivå. Arkitekturen for konfidensiell databehandling bruker maskinvarerotet isolasjon og kryptografisk attestering for å bidra til å beskytte modeller og data under kjøring.
For utviklere som ønsker mer kapasitet til trening og inferens, presenterer NVIDIA utvidelsen som en måte å få tilgang til flere geografiske, suverene og driftsmessige alternativer på. Infrastrukturleverandører med støtte får på sin side mulighet til å betjene sensitive arbeidsbelastninger som krever sterk beskyttelse av modeller og data.
| Element | Detaljer |
|---|---|
| Confidential Bare Metal | Nytt distribusjonsalternativ for sensitive arbeidsbelastninger på dedikert tredjepartsinfrastruktur, der utvikleren har kontroll over programvarestakken. |
| Confidential Containers | Distribusjonsalternativ for Kubernetes-miljøer innenfor NVIDIAs konvergerte sikkerhetsarkitektur. |
| Confidential Virtual Machines | Distribusjonsalternativ for virtualiserte miljøer. |
| Cohere Model Vault | Cohere planlegger å integrere Confidential Bare Metal ved hjelp av NVIDIAs pålitelige kjøremiljøer. |
| Google Cloud | Utvider støtten for Confidential Bare Metal til A4X Max-instanser drevet av NVIDIA GB300 NVL72-systemer. |
| NVIDIA DSX OS | Vil støtte alle NVIDIA Confidential Computing-moduser for leverandører som bygger AI-fabrikker. |
Forskjeller mellom distribusjonsalternativene
Bare metal kommer i tillegg til Confidential Containers og Confidential Virtual Machines i det NVIDIA beskriver som en konvergert sikkerhetsarkitektur. Forskjellen ligger i driftsmiljøet: dedikert bare-metal-infrastruktur, Kubernetes-miljøer eller virtualiserte miljøer.
Dette valget er viktig fordi organisasjoner kan velge en distribusjonsmodell som passer til grensene for tillit og driftskravene deres. Det nye alternativet er spesielt rettet mot utviklere som vil kjøre sin egen verts- og plattformprogramvare, i stedet for å bruke distribusjonsmodellene for containere eller virtuelle maskiner.
Hva Cohere og Google Cloud gjør
Cohere planlegger å integrere Confidential Bare Metal i Cohere Model Vault. Den planlagte integrasjonen skal bruke NVIDIAs pålitelige kjøremiljøer for Confidential Computing til å utvide maskinvarerotet sikkerhet til GPU-en, slik at modeller og data beskyttes i minnet og på tvers av sammenkoblinger under kjøring.
Google Cloud utvider støtten for Confidential Bare Metal til A4X Max-instanser drevet av NVIDIA GB300 NVL72-systemer. NVIDIA sier at disse instansene vil kombinere akselerert databehandling uten virtualisering med kryptografisk beskyttelse av treningsdata og immaterielle rettigheter knyttet til modeller.
Dette er ulike adopsjonstiltak: Cohere beskriver en planlagt integrasjon i sin modellplattform, mens Google Cloud utvider infrastrukturen som støttes. Ingen av delene bør tolkes som bevis på at alle leverandører i NVIDIAs bredere økosystem har fullført en utrulling av Confidential Bare Metal.
Status for plattformstøtten
NVIDIA sier at støtten for Confidential Computing nå omfatter Grace Blackwell NVL72-systemer i rackskala, samt de x86-baserte HGX Rubin NVL8- og DGX Rubin NVL8-systemene. Dette utvider maskinvareplattformene som omfattes av sikkerhetsarkitekturen.
Selskapet oppgir CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale og Vultr som leverandører som støtter NVIDIA Confidential Computing-distribusjoner. Denne beskrivelsen av økosystemet gjelder Confidential Computing generelt og fastslår ikke at alle leverandørene tilbyr identiske distribusjonsalternativer.
Ytterligere støtte er fortsatt framtidsrettet. Cisco, Dell Technologies, HPE, Lenovo, Supermicro og Bull vil støtte funksjonene gjennom NVIDIA-Certified Systems. NVIDIA DSX OS vil også støtte alle Confidential Computing-moduser og dermed gi et programvaregrunnlag for skyleverandører som bygger og driver AI-fabrikker med konfidensielle arbeidsbelastninger.
Konklusjon
Utvidelsen gir utviklere av modeller et alternativ for konfidensiell databehandling som bygger på dedikert infrastruktur og kontroll over programvarestakken. Den praktiske rekkevidden kombinerer nylig utvidet maskinvarestøtte med tiltak hos enkeltleverandører, blant annet Cohere sin planlagte integrasjon og Google Clouds utvidelse av infrastrukturen.
Les flere nyheter
Flere nyheter fra FinanceVelix
Ansvarsfraskrivelse
Denne FinanceVelix-artikkelen gir generell informasjon, ikke personlig tilpasset finans-, investerings-, juridisk eller skattemessig rådgivning. Markedspriser, renter og økonomiske forhold kan endre seg; investeringer innebærer risiko for tap. Opplysningene gjenspeiler materialet som var tilgjengelig da artikkelen ble publisert, og kan endre seg. Kontroller viktig informasjon uavhengig, og rådfør deg med en kvalifisert fagperson ved behov. Omtale av en eiendel, et selskap eller en tjeneste innebærer ingen anbefaling.
