NVIDIA Confidential Computing pridáva Confidential Bare Metal, možnosť nasadenia navrhnutú tak, aby tvorcom špičkových modelov umožnila prevádzkovať citlivé úlohy na vyhradenej infraštruktúre tretích strán a zároveň si zachovať kontrolu nad svojimi modelmi, údajmi a softvérovým balíkom. Rozšírenie dáva vývojárom ďalší spôsob, ako využívať externú výpočtovú kapacitu bez potreby virtualizovaného prostredia.
Kľúčové zistenia
- Confidential Bare Metal umožňuje tvorcom modelov prevádzkovať vlastný softvérový balík na vyhradenej infraštruktúre NVIDIA tretej strany.
- Cohere plánuje túto možnosť integrovať do Model Vault, zatiaľ čo Google Cloud rozširuje podporu na inštancie A4X Max.
- Podpora platformy sa rozširuje naprieč systémami Grace Blackwell a Rubin; plánuje sa podpora DSX OS a možnosti systémových partnerov.
Obsah
- Čo mení NVIDIA Confidential Computing
- Ako sa líšia možnosti nasadenia
- Čo podnikajú Cohere a Google Cloud
- Aktuálny stav podpory platformy
- Záver
Čo mení NVIDIA Confidential Computing
Hlavnou zmenou je spojenie ochrany dôverného výpočtového prostredia s kontrolou nad softvérovým prostredím typu bare metal. NVIDIA uvádza, že tvorcovia modelov môžu vlastniť a prevádzkovať vlastný softvérový balík vrátane softvéru hostiteľskej a platformovej infraštruktúry naprieč cloudovou infraštruktúrou tretích strán, neocloudovými a podnikovými infraštruktúrami.
Spoločnosť zavádza bezpečnostné kontroly platformy, ktorých cieľom je chrániť údaje pri prenose, overovať integritu platformy a vynucovať hardvérové obmedzenia prístupu. Architektúra dôverného výpočtového prostredia NVIDIA využíva izoláciu ukotvenú v hardvéri a kryptografickú atestáciu na pomoc pri ochrane modelov a údajov počas vykonávania.
Tvorcom, ktorí hľadajú dodatočnú kapacitu na trénovanie a inferenciu, NVIDIA predstavuje toto rozšírenie ako spôsob, ako získať viac geografických, suverénnych a prevádzkových možností. Podporovatelia infraštruktúry tak získavajú cestu, ako obsluhovať citlivé úlohy vyžadujúce dôraznú ochranu súkromia modelov a údajov.
| Položka | Podrobnosti |
|---|---|
| Confidential Bare Metal | Nová možnosť nasadenia citlivých úloh na vyhradenej infraštruktúre tretích strán, pričom tvorca si zachováva kontrolu nad softvérovým balíkom. |
| Confidential Containers | Možnosť nasadenia pre prostredia Kubernetes v rámci konvergovanej bezpečnostnej architektúry NVIDIA. |
| Confidential Virtual Machines | Možnosť nasadenia pre virtualizované prostredia. |
| Cohere Model Vault | Cohere plánuje integrovať Confidential Bare Metal s využitím dôveryhodných vykonávacích prostredí NVIDIA. |
| Google Cloud | Rozširuje podporu Confidential Bare Metal na inštancie A4X Max poháňané systémami NVIDIA GB300 NVL72. |
| NVIDIA DSX OS | Bude podporovať všetky režimy NVIDIA Confidential Computing pre poskytovateľov budujúcich továrne na umelú inteligenciu. |
Ako sa líšia možnosti nasadenia
Bare metal dopĺňa Confidential Containers a Confidential Virtual Machines v rámci toho, čo NVIDIA opisuje ako konvergovanú bezpečnostnú architektúru. Rozdiel spočíva v prevádzkovom prostredí: vyhradená infraštruktúra bare metal, prostredia Kubernetes alebo virtualizované prostredia.
Táto voľba je dôležitá, pretože organizácie si môžu vybrať model nasadenia zodpovedajúci ich hraniciam dôvery a prevádzkovým požiadavkám. Nová možnosť je určená najmä tvorcom, ktorí chcú prevádzkovať vlastný hostiteľský a platformový softvér namiesto použitia modelov nasadenia s kontajnermi alebo virtuálnymi strojmi.
Čo podnikajú Cohere a Google Cloud
Cohere plánuje integrovať Confidential Bare Metal do služby Cohere Model Vault. Plánovaná integrácia by využívala dôveryhodné vykonávacie prostredia NVIDIA Confidential Computing na rozšírenie hardvérovo ukotvenej bezpečnosti na GPU, čím by chránila modely a údaje v pamäti a naprieč prepojeniami počas vykonávania.
Google Cloud rozširuje podporu Confidential Bare Metal na inštancie A4X Max poháňané systémami NVIDIA GB300 NVL72. NVIDIA uvádza, že tieto inštancie spoja nevirtualizované akcelerované výpočty s kryptografickou ochranou tréningových údajov a duševného vlastníctva v podobe modelov.
Ide o odlišné kroky pri zavádzaní: Cohere opisuje plánovanú integráciu do svojej platformy modelov, zatiaľ čo Google Cloud rozširuje podporu infraštruktúry. Ani jeden z týchto krokov by sa nemal považovať za dôkaz, že každý poskytovateľ v širšom ekosystéme NVIDIA už dokončil zavádzanie Confidential Bare Metal.
Aktuálny stav podpory platformy
NVIDIA uvádza, že podpora Confidential Computing sa teraz rozširuje na rackové systémy Grace Blackwell NVL72, ako aj na systémy HGX Rubin NVL8 a DGX Rubin NVL8 založené na architektúre x86. Tým sa rozširuje okruh hardvérových platforiem pokrytých bezpečnostnou architektúrou.
Spoločnosť uvádza CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale a Vultr ako poskytovateľov podporujúcich nasadenia NVIDIA Confidential Computing. Toto vyjadrenie o ekosystéme sa týka Confidential Computing vo všeobecnosti a nepotvrdzuje, že každý poskytovateľ ponúka rovnaké možnosti nasadenia.
Ďalšia podpora sa ešte len plánuje. Cisco, Dell Technologies, HPE, Lenovo, Supermicro a Bull budú podporovať tieto možnosti prostredníctvom systémov NVIDIA-Certified Systems. NVIDIA DSX OS bude tiež podporovať všetky režimy Confidential Computing a poskytne softvérový základ pre poskytovateľov cloudových služieb, ktorí budujú a prevádzkujú továrne na umelú inteligenciu s dôvernými úlohami.
Záver
Rozšírenie poskytuje tvorcom modelov možnosť dôverného výpočtového prostredia založenú na vyhradenej infraštruktúre a kontrole nad softvérovým balíkom. Jej praktický dosah spája novo rozšírenú podporu hardvéru s krokmi jednotlivých poskytovateľov vrátane plánovanej integrácie Cohere a rozšírenia infraštruktúry Google Cloud.
Ďalšie správy
Upozornenie
Tento článok FinanceVelix poskytuje všeobecné informácie, nie individualizované finančné, investičné, právne ani daňové poradenstvo. Trhové ceny, úrokové sadzby a ekonomické podmienky sa môžu meniť; investície sú spojené s rizikom straty. Uvedené fakty vychádzajú z materiálov dostupných v čase zverejnenia a môžu sa zmeniť. Dôležité informácie si nezávisle overte a v prípade potreby sa obráťte na kvalifikovaného odborníka. Zmienka o aktíve, spoločnosti alebo službe nepredstavuje odporúčanie.
