Az NVIDIA Confidential Computing új lehetőséggel, a Confidential Bare Metal szolgáltatással bővül. Ezt a telepítési opciót úgy alakították ki, hogy a fejlett modelleket fejlesztő vállalatok érzékeny munkaterheléseket futtathassanak dedikált, harmadik fél által biztosított infrastruktúrán, miközben megőrzik az ellenőrzést a modellek, az adatok és a szoftververem felett. A bővítés újabb lehetőséget kínál a fejlesztőknek külső számítási kapacitás igénybevételére virtualizált környezet használata nélkül.
Főbb tudnivalók
- A Confidential Bare Metal lehetővé teszi a modellfejlesztők számára, hogy saját szoftververemüket dedikált, harmadik fél által biztosított NVIDIA-infrastruktúrán üzemeltessék.
- A Cohere azt tervezi, hogy integrálja az opciót a Model Vaultba, a Google Cloud pedig kiterjeszti a támogatást az A4X Max-példányokra.
- A platformtámogatás a Grace Blackwell és Rubin rendszerekre is kiterjed; a DSX OS támogatása és a rendszerszállítók képességei később várhatók.
Tartalomjegyzék
- Mi változik az NVIDIA Confidential Computinggel?
- Miben különböznek a telepítési lehetőségek?
- Mit tesz a Cohere és a Google Cloud?
- Hol tart a platformtámogatás?
- Összegzés
Mi változik az NVIDIA Confidential Computinggel?
A legfontosabb változás a bizalmas számítástechnikai védelem és a bare-metal szoftverkörnyezet feletti ellenőrzés ötvözése. Az NVIDIA szerint a modellfejlesztők egyedi szoftververemet alakíthatnak ki és üzemeltethetnek – beleértve a gazdagép- és platforminfrastruktúra-szoftvereket is – harmadik fél felhőszolgáltatói, neocloud-szolgáltatói és vállalati infrastruktúráján.
A vállalat olyan platformbiztonsági vezérlőket vezet be, amelyek célja az átvitel alatt álló adatok védelme, a platform integritásának mérése, valamint a hardverszintű hozzáférési korlátozások érvényesítése. Bizalmas számítástechnikai architektúrája hardveres gyökerű izolációt és kriptográfiai hitelesítést használ a modellek és az adatok végrehajtás közbeni védelmének elősegítésére.
A további tanítási és következtetési kapacitást kereső fejlesztők számára az NVIDIA a bővítést úgy mutatja be, mint amely több földrajzi, szuverén és működési lehetőséget biztosít. A támogatott infrastruktúra-szolgáltatók pedig olyan érzékeny munkaterhelések kiszolgálására kapnak lehetőséget, amelyek erős modell- és adatvédelmet igényelnek.
| Elem | Részletek |
|---|---|
| Confidential Bare Metal | Új telepítési lehetőség érzékeny munkaterhelésekhez, dedikált, harmadik fél által biztosított infrastruktúrán, a szoftververem feletti fejlesztői ellenőrzéssel. |
| Confidential Containers | Telepítési lehetőség Kubernetes-környezetekhez, az NVIDIA konvergált biztonsági architektúráján belül. |
| Confidential Virtual Machines | Telepítési lehetőség virtualizált környezetekhez. |
| Cohere Model Vault | A Cohere az NVIDIA megbízható végrehajtási környezeteinek használatával tervezi integrálni a Confidential Bare Metalt. |
| Google Cloud | Kiterjeszti a Confidential Bare Metal támogatását az NVIDIA GB300 NVL72 rendszerekkel működő A4X Max-példányokra. |
| NVIDIA DSX OS | Támogatni fogja az NVIDIA Confidential Computing összes üzemmódját az MI-gyárakat építő szolgáltatók számára. |
Miben különböznek a telepítési lehetőségek?
A bare-metal opció a Confidential Containers és a Confidential Virtual Machines mellett kap helyet abban, amit az NVIDIA konvergált biztonsági architektúrának nevez. A különbséget a működési környezet jelenti: dedikált bare-metal infrastruktúra, Kubernetes-környezet vagy virtualizált környezet.
Ez a választás azért fontos, mert a szervezetek az ellenőrzési határaikhoz és működési követelményeikhez illeszkedő telepítési modellt választhatnak. Az új opció kifejezetten azoknak a fejlesztőknek szól, akik a konténeres vagy virtuálisgép-alapú telepítési modellek helyett saját gazdagép- és platformszoftvereiket szeretnék futtatni.
Mit tesz a Cohere és a Google Cloud?
A Cohere azt tervezi, hogy integrálja a Confidential Bare Metalt a Cohere Model Vaultba. A tervezett integráció az NVIDIA Confidential Computing megbízható végrehajtási környezeteit használná a hardveres gyökerű védelem GPU-ra való kiterjesztésére, így a modellek és az adatok végrehajtás közben, a memóriában és az összeköttetéseken keresztül is védelmet kapnának.
A Google Cloud kiterjeszti a Confidential Bare Metal támogatását az NVIDIA GB300 NVL72 rendszerekkel működő A4X Max-példányokra. Az NVIDIA közlése szerint ezek a példányok a virtualizáció nélküli gyorsított számítástechnikát a tanítási adatok és a modellek szellemi tulajdonának kriptográfiai védelmével ötvözik.
Ezek különálló bevezetési lépések: a Cohere a modellplatformjába tervezett integrációról számolt be, míg a Google Cloud az infrastruktúra-támogatást bővíti. Egyik sem tekinthető bizonyítéknak arra, hogy az NVIDIA szélesebb ökoszisztémájának minden szolgáltatója befejezte volna a Confidential Bare Metal bevezetését.
Hol tart a platformtámogatás?
Az NVIDIA szerint a Confidential Computing támogatása immár a Grace Blackwell NVL72 rackméretű rendszerekre, valamint az x86-alapú HGX Rubin NVL8 és DGX Rubin NVL8 rendszerekre is kiterjed. Ezzel bővül a biztonsági architektúra által lefedett hardverplatformok köre.
A vállalat a CoreWeave-et, a Firmust, a GMI Cloudot, a Google Cloudot, az IREN-t, a Lambdát, a Microsoft Azure Infrastructure-t, a Nebiust, az Nscale-t és a Vultrt nevezi meg az NVIDIA Confidential Computing telepítéseit támogató szereplőként. Ez az ökoszisztémára vonatkozó közlés általánosságban a Confidential Computingre vonatkozik, és nem bizonyítja, hogy minden szolgáltatónál azonos telepítési lehetőségek állnak rendelkezésre.
A további támogatás egyelőre jövőbeli terv. A Cisco, a Dell Technologies, a HPE, a Lenovo, a Supermicro és a Bull az NVIDIA-Certified Systems révén támogatja majd a képességeket. Az NVIDIA DSX OS szintén támogatja majd a Confidential Computing összes üzemmódját, szoftveralapot biztosítva azon felhőszolgáltatók számára, amelyek bizalmas munkaterheléseket kezelő MI-gyárakat építenek és üzemeltetnek.
Összegzés
A bővítés olyan bizalmas számítástechnikai lehetőséget kínál a modellfejlesztőknek, amely dedikált infrastruktúrára és a szoftververem feletti ellenőrzésre épül. Gyakorlati elérhetősége az újonnan kibővített hardvertámogatást és a szolgáltatók konkrét lépéseit ötvözi, köztük a Cohere tervezett integrációját és a Google Cloud infrastruktúra-bővítését.
További hírek
Jogi nyilatkozat
Ez a FinanceVelix-cikk általános tájékoztatást nyújt, nem minősül személyre szabott pénzügyi, befektetési, jogi vagy adótanácsadásnak. A piaci árak, a kamatlábak és a gazdasági körülmények változhatnak; a befektetések veszteség kockázatával járnak. A tények a közzétételkor rendelkezésre álló információkat tükrözik, és változhatnak. A fontos információkat ellenőrizze önállóan, és szükség esetén forduljon képzett szakemberhez. Egy eszköz, vállalat vagy szolgáltatás említése nem jelent ajánlást.
