NVIDIA Confidential Computing voegt Confidential Bare Metal toe, een implementatieoptie waarmee ontwikkelaars van geavanceerde modellen gevoelige workloads kunnen uitvoeren op speciale infrastructuur van derden, terwijl ze de controle behouden over hun modellen, data en softwarestack. Met deze uitbreiding krijgen ontwikkelaars een extra manier om externe rekenkracht te benutten zonder een gevirtualiseerde omgeving te gebruiken.
Belangrijkste punten
- Met Confidential Bare Metal kunnen ontwikkelaars van modellen hun eigen softwarestack beheren op speciale NVIDIA-infrastructuur van derden.
- Cohere is van plan de optie te integreren in Model Vault, terwijl Google Cloud de ondersteuning uitbreidt naar A4X Max-instances.
- De platformondersteuning wordt uitgebreid naar Grace Blackwell- en Rubin-systemen; ondersteuning voor DSX OS en mogelijkheden voor systeempartners zijn gepland.
Inhoudsopgave
- Wat er verandert met NVIDIA Confidential Computing
- Waarin de implementatieopties verschillen
- Wat Cohere en Google Cloud doen
- Stand van zaken rond platformondersteuning
- Conclusie
Wat er verandert met NVIDIA Confidential Computing
De belangrijkste verandering is de combinatie van bescherming door vertrouwelijk computergebruik met controle over een bare-metalsoftwareomgeving. NVIDIA zegt dat ontwikkelaars een eigen stack op maat kunnen beheren, inclusief host- en platforminfrastructuursoftware, op cloud-, neocloud- en bedrijfsinfrastructuur van derden.
Het bedrijf introduceert beveiligingsmaatregelen op platformniveau die data tijdens overdracht moeten beschermen, de integriteit van het platform moeten meten en toegangsbeperkingen op hardwareniveau moeten afdwingen. De architectuur voor confidential computing van het bedrijf maakt gebruik van isolatie met een hardwarematige basis en cryptografische attestatie om modellen en data tijdens de uitvoering te helpen beschermen.
Voor ontwikkelaars die extra capaciteit voor training en inferentie zoeken, positioneert NVIDIA de uitbreiding als een manier om toegang te krijgen tot meer geografische, soevereine en operationele opties. Ondersteunde infrastructuurproviders krijgen op hun beurt de mogelijkheid gevoelige workloads aan te bieden waarvoor sterke bescherming van model- en dataprivacy vereist is.
| Onderdeel | Details |
|---|---|
| Confidential Bare Metal | Nieuwe implementatieoptie voor gevoelige workloads op speciale infrastructuur van derden, waarbij ontwikkelaars de softwarestack beheren. |
| Confidential Containers | Implementatieoptie voor Kubernetes-omgevingen binnen de geïntegreerde beveiligingsarchitectuur van NVIDIA. |
| Confidential Virtual Machines | Implementatieoptie voor gevirtualiseerde omgevingen. |
| Cohere Model Vault | Cohere is van plan Confidential Bare Metal te integreren met behulp van vertrouwde uitvoeringsomgevingen van NVIDIA. |
| Google Cloud | Breidt de ondersteuning voor Confidential Bare Metal uit naar A4X Max-instances die worden aangedreven door NVIDIA GB300 NVL72-systemen. |
| NVIDIA DSX OS | Zal alle NVIDIA Confidential Computing-modi ondersteunen voor providers die AI-fabrieken bouwen. |
Waarin de implementatieopties verschillen
Bare metal wordt toegevoegd aan Confidential Containers en Confidential Virtual Machines als onderdeel van wat NVIDIA een geïntegreerde beveiligingsarchitectuur noemt. Het verschil zit in de gebruiksomgeving: speciale bare-metal-infrastructuur, Kubernetes-omgevingen of gevirtualiseerde omgevingen.
Die keuze is van belang omdat organisaties een implementatiemodel kunnen kiezen dat aansluit bij hun vertrouwensgrenzen en operationele vereisten. De nieuwe optie is specifiek gericht op ontwikkelaars die hun eigen host- en platformsoftware willen uitvoeren in plaats van de implementatiemodellen voor containers of virtuele machines te gebruiken.
Wat Cohere en Google Cloud doen
Cohere is van plan Confidential Bare Metal te integreren in Cohere Model Vault. De geplande integratie zou gebruikmaken van vertrouwde uitvoeringsomgevingen van NVIDIA Confidential Computing om beveiliging met een hardwarematige basis uit te breiden naar de GPU, zodat modellen en data tijdens de uitvoering in het geheugen en via verbindingen tussen componenten worden beschermd.
Google Cloud breidt de ondersteuning voor Confidential Bare Metal uit naar A4X Max-instances die worden aangedreven door NVIDIA GB300 NVL72-systemen. Volgens NVIDIA combineren deze instances niet-gevirtualiseerde versnelde computing met cryptografische bescherming van trainingsdata en intellectueel eigendom van modellen.
Dit zijn afzonderlijke stappen in de invoering: Cohere beschrijft een geplande integratie in zijn modelplatform, terwijl Google Cloud de infrastructuurondersteuning uitbreidt. Geen van beide mag worden opgevat als bewijs dat elke provider in het bredere ecosysteem van NVIDIA de uitrol van Confidential Bare Metal heeft afgerond.
Stand van zaken rond platformondersteuning
NVIDIA zegt dat Confidential Computing nu ook wordt ondersteund op Grace Blackwell NVL72-racksystemen en op de op x86 gebaseerde HGX Rubin NVL8- en DGX Rubin NVL8-systemen. Daarmee wordt het aantal hardwareplatforms waarop de beveiligingsarchitectuur beschikbaar is uitgebreid.
Het bedrijf noemt CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale en Vultr als aanbieders die implementaties van NVIDIA Confidential Computing ondersteunen. Deze uitspraak over het ecosysteem betreft Confidential Computing in het algemeen en bevestigt niet dat elke provider dezelfde implementatieopties aanbiedt.
Verdere ondersteuning is nog toekomstgericht. Cisco, Dell Technologies, HPE, Lenovo, Supermicro en Bull zullen de mogelijkheden ondersteunen via NVIDIA-Certified Systems. Ook NVIDIA DSX OS zal alle Confidential Computing-modi ondersteunen en daarmee een softwarebasis bieden voor cloudproviders die AI-fabrieken met vertrouwelijke workloads bouwen en beheren.
Conclusie
De uitbreiding biedt ontwikkelaars van modellen een optie voor confidential computing die is gebaseerd op speciale infrastructuur en controle over de softwarestack. De praktische reikwijdte ervan omvat zowel de nieuw uitgebreide hardwareondersteuning als specifieke stappen van providers, waaronder de geplande integratie door Cohere en de uitbreiding van de infrastructuur door Google Cloud.
Meer nieuws lezen
Disclaimer
Dit artikel van FinanceVelix bevat algemene informatie en geen persoonlijk financieel, beleggings-, juridisch of fiscaal advies. Marktprijzen, rentetarieven en economische omstandigheden kunnen veranderen; beleggen brengt het risico op verlies met zich mee. De feiten zijn gebaseerd op het materiaal dat beschikbaar was op het moment van publicatie en kunnen veranderen. Controleer belangrijke informatie zelfstandig en raadpleeg zo nodig een gekwalificeerde professional. Vermelding van een activum, bedrijf of dienst vormt geen aanbeveling.
