NVIDIA Confidential Computing adaugă Confidential Bare Metal, o opțiune de implementare concepută pentru a le permite creatorilor de modele de frontieră să ruleze sarcini de lucru sensibile pe infrastructură dedicată a unor terți, păstrând în același timp controlul asupra modelelor, datelor și stivei lor software. Extinderea le oferă dezvoltatorilor o altă modalitate de a folosi capacitatea de calcul externă fără a adopta un mediu virtualizat.
Idei principale
- Confidential Bare Metal le permite creatorilor de modele să opereze propria stivă software pe infrastructura NVIDIA dedicată a unor terți.
- Cohere intenționează să integreze această opțiune în Model Vault, în timp ce Google Cloud extinde suportul la instanțele A4X Max.
- Suportul platformei se extinde la sistemele Grace Blackwell și Rubin; sunt planificate suportul pentru DSX OS și capabilitățile partenerilor de sisteme.
Cuprins
- Ce schimbă NVIDIA Confidential Computing
- Prin ce diferă opțiunile de implementare
- Ce fac Cohere și Google Cloud
- Care este stadiul suportului platformei
- Concluzie
Ce schimbă NVIDIA Confidential Computing
Schimbarea centrală constă în combinarea protecțiilor de calcul confidențial cu controlul asupra unui mediu software bare-metal. NVIDIA afirmă că creatorii de modele pot deține și opera o stivă personalizată, inclusiv software-ul pentru infrastructura gazdă și a platformei, pe infrastructură cloud terță, neocloud și de întreprindere.
Compania introduce controale de securitate la nivelul platformei, menite să protejeze datele în tranzit, să măsoare integritatea platformei și să aplice restricții de acces la nivel hardware. Arhitectura sa de calcul confidențial utilizează izolarea bazată pe hardware și atestarea criptografică pentru a contribui la protejarea modelelor și a datelor în timpul execuției.
Pentru creatorii care caută capacitate suplimentară de antrenare și inferență, NVIDIA prezintă extinderea ca pe o modalitate de a accesa mai multe opțiuni geografice, suverane și operaționale. La rândul lor, furnizorii de infrastructură compatibilă obțin o cale de a deservi sarcini de lucru sensibile care necesită protecții puternice pentru confidențialitatea modelelor și a datelor.
| Element | Detalii |
|---|---|
| Confidential Bare Metal | Nouă opțiune de implementare pentru sarcini de lucru sensibile pe infrastructură dedicată a unor terți, cu controlul creatorilor asupra stivei software. |
| Confidential Containers | Opțiune de implementare pentru medii Kubernetes în cadrul arhitecturii de securitate convergente NVIDIA. |
| Confidential Virtual Machines | Opțiune de implementare pentru medii virtualizate. |
| Cohere Model Vault | Cohere intenționează să integreze Confidential Bare Metal folosind mediile de execuție de încredere NVIDIA. |
| Google Cloud | Extinde suportul pentru Confidential Bare Metal la instanțele A4X Max, bazate pe sistemele NVIDIA GB300 NVL72. |
| NVIDIA DSX OS | Va suporta toate modurile NVIDIA Confidential Computing pentru furnizorii care construiesc fabrici AI. |
Prin ce diferă opțiunile de implementare
Bare metal se alătură opțiunilor Confidential Containers și Confidential Virtual Machines în ceea ce NVIDIA descrie drept o arhitectură de securitate convergentă. Diferența ține de mediul de operare: infrastructură dedicată bare-metal, medii Kubernetes sau medii virtualizate.
Alegerea este importantă deoarece organizațiile pot selecta un model de implementare care corespunde limitelor lor de încredere și cerințelor operaționale. Noua opțiune vizează în mod specific creatorii care doresc să ruleze propriul software pentru gazdă și platformă, în loc să utilizeze modelele de implementare bazate pe containere sau mașini virtuale.
Ce fac Cohere și Google Cloud
Cohere intenționează să integreze Confidential Bare Metal în Cohere Model Vault. Integrarea planificată ar utiliza mediile de execuție de încredere NVIDIA Confidential Computing pentru a extinde securitatea bazată pe hardware la GPU, protejând modelele și datele în memorie și prin interconexiuni în timpul execuției.
Google Cloud extinde suportul pentru Confidential Bare Metal la instanțele A4X Max, bazate pe sistemele NVIDIA GB300 NVL72. NVIDIA afirmă că aceste instanțe vor combina calculul accelerat non-virtualizat cu protecția criptografică a datelor de antrenare și a proprietății intelectuale asociate modelelor.
Acestea sunt etape distincte de adoptare: Cohere descrie o integrare planificată în platforma sa de modele, în timp ce Google Cloud extinde suportul pentru infrastructură. Niciuna dintre acestea nu ar trebui considerată o dovadă că toți furnizorii din ecosistemul mai larg al NVIDIA au finalizat implementarea Confidential Bare Metal.
Care este stadiul suportului platformei
NVIDIA afirmă că suportul Confidential Computing se extinde acum la sistemele rack-scale Grace Blackwell NVL72, precum și la sistemele HGX Rubin NVL8 și DGX Rubin NVL8 bazate pe x86. Astfel, se lărgește gama platformelor hardware acoperite de arhitectura de securitate.
Compania îi menționează pe CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale și Vultr ca furnizori care suportă implementări NVIDIA Confidential Computing. Această declarație privind ecosistemul se referă la Confidential Computing în general și nu confirmă că fiecare furnizor oferă opțiuni de implementare identice.
Suportul suplimentar rămâne o perspectivă de viitor. Cisco, Dell Technologies, HPE, Lenovo, Supermicro și Bull vor suporta aceste capabilități prin NVIDIA-Certified Systems. NVIDIA DSX OS va suporta, de asemenea, toate modurile Confidential Computing, oferind o bază software furnizorilor cloud care construiesc și operează fabrici AI cu sarcini de lucru confidențiale.
Concluzie
Extinderea le oferă creatorilor de modele o opțiune de calcul confidențial construită în jurul infrastructurii dedicate și al controlului asupra stivei software. Aplicabilitatea sa practică îmbină extinderea recentă a suportului hardware cu inițiative specifice furnizorilor, inclusiv integrarea planificată de Cohere și extinderea infrastructurii Google Cloud.
Citiți mai multe știri
Declinarea responsabilității
Acest articol FinanceVelix oferă informații generale, nu consultanță financiară, de investiții, juridică sau fiscală personalizată. Prețurile de piață, ratele dobânzilor și condițiile economice se pot schimba; investițiile implică riscul unor pierderi. Informațiile reflectă materialele disponibile la momentul publicării și se pot modifica. Verificați independent informațiile importante și consultați un specialist calificat atunci când este necesar. Menționarea unui activ, a unei companii sau a unui serviciu nu constituie o recomandare.
