NVIDIA Confidential Computing добавя Confidential Bare Metal — опция за внедряване, предназначена да позволи на разработчиците на водещи модели да изпълняват чувствителни работни натоварвания върху специализирана инфраструктура на трети страни, като запазват контрола върху своите модели, данни и софтуерен стек. Разширението дава на разработчиците още един начин да използват външен изчислителен капацитет, без да приемат виртуализирана среда.

Основни изводи

  • Confidential Bare Metal позволява на разработчиците на модели да използват собствен софтуерен стек върху специализирана инфраструктура на трети страни, базирана на NVIDIA.
  • Cohere планира да интегрира опцията в Model Vault, а Google Cloud разширява поддръжката до инстанциите A4X Max.
  • Поддръжката на платформата се разширява към системите Grace Blackwell и Rubin; планирани са поддръжка на DSX OS и възможности за партньорски системи.

Съдържание

Какво променя NVIDIA Confidential Computing

Основната промяна е съчетаването на защитите на поверителните изчисления с контрол върху софтуерна среда с bare metal. NVIDIA заявява, че разработчиците на модели могат да притежават и управляват персонализиран стек, включително софтуер за хост и платформена инфраструктура, в облачна инфраструктура на трети страни, neocloud и корпоративна инфраструктура.

Компанията въвежда контроли за сигурност на платформата, предназначени да защитават данните при пренос, да измерват целостта на платформата и да налагат ограничения за достъп на хардуерно ниво. Архитектурата за поверителни изчисления на компанията използва изолация, базирана на хардуерен корен на доверие, и криптографско удостоверяване, за да помогне за защитата на моделите и данните по време на изпълнение.

За разработчиците, които търсят допълнителен капацитет за обучение и инференция, NVIDIA представя разширението като начин за достъп до повече географски, суверенни и оперативни възможности. Доставчиците на поддържана инфраструктура на свой ред получават възможност да обслужват чувствителни работни натоварвания, изискващи силна защита на поверителността на моделите и данните.

ЕлементПодробности
Confidential Bare MetalНова опция за внедряване на чувствителни работни натоварвания върху специализирана инфраструктура на трети страни, с контрол на разработчика върху софтуерния стек.
Confidential ContainersОпция за внедряване в среди Kubernetes в рамките на конвергираната архитектура за сигурност на NVIDIA.
Confidential Virtual MachinesОпция за внедряване във виртуализирани среди.
Cohere Model VaultCohere планира да интегрира Confidential Bare Metal чрез доверените среди за изпълнение на NVIDIA.
Google CloudРазширява поддръжката на Confidential Bare Metal до инстанциите A4X Max, захранвани от системи NVIDIA GB300 NVL72.
NVIDIA DSX OSЩе поддържа всички режими на NVIDIA Confidential Computing за доставчици, изграждащи AI фабрики.

По какво се различават опциите за внедряване

Bare metal се присъединява към Confidential Containers и Confidential Virtual Machines в това, което NVIDIA описва като конвергирана архитектура за сигурност. Разликата е в работната среда: специализирана инфраструктура с bare metal, среди Kubernetes или виртуализирани среди.

Този избор е важен, защото организациите могат да изберат модел за внедряване, съответстващ на техните граници на доверие и оперативни изисквания. Новата опция е насочена конкретно към разработчици, които искат да използват собствен софтуер за хост и платформа, вместо моделите за внедряване с контейнери или виртуални машини.

Какво правят Cohere и Google Cloud

Cohere планира да интегрира Confidential Bare Metal в Cohere Model Vault. Предвижда се интеграцията да използва доверените среди за изпълнение на NVIDIA Confidential Computing, за да разшири хардуерно базираната сигурност до графичния процесор и да защитава моделите и данните в паметта и през междусистемните връзки по време на изпълнение.

Google Cloud разширява поддръжката на Confidential Bare Metal до инстанциите A4X Max, захранвани от системи NVIDIA GB300 NVL72. NVIDIA заявява, че тези инстанции ще съчетаят ускорени изчисления без виртуализация с криптографска защита на данните за обучение и интелектуалната собственост върху моделите.

Това са отделни стъпки в приемането на технологията: Cohere описва планирана интеграция в своята платформа за модели, докато Google Cloud разширява инфраструктурната поддръжка. Нито едно от двете не бива да се приема като доказателство, че всеки доставчик в по-широката екосистема на NVIDIA е завършил внедряването на Confidential Bare Metal.

Какво е състоянието на поддръжката на платформата

NVIDIA заявява, че поддръжката на Confidential Computing вече обхваща системите с мащаб на цял шкаф Grace Blackwell NVL72, както и системите HGX Rubin NVL8 и DGX Rubin NVL8, базирани на x86. Това разширява хардуерните платформи, обхванати от архитектурата за сигурност.

Компанията посочва CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale и Vultr като доставчици, поддържащи внедрявания на NVIDIA Confidential Computing. Това твърдение за екосистемата се отнася до Confidential Computing като цяло, а не установява наличие на еднакви опции за внедряване при всеки доставчик.

Допълнителната поддръжка предстои. Cisco, Dell Technologies, HPE, Lenovo, Supermicro и Bull ще поддържат възможностите чрез NVIDIA-Certified Systems. NVIDIA DSX OS също ще поддържа всички режими на Confidential Computing, като осигурява софтуерна основа за доставчици на облачни услуги, изграждащи и управляващи AI фабрики с поверителни работни натоварвания.

Заключение

Разширението предоставя на разработчиците на модели опция за поверителни изчисления, изградена около специализирана инфраструктура и контрол върху софтуерния стек. Практическият ѝ обхват съчетава наскоро разширената хардуерна поддръжка с конкретни стъпки от доставчиците, включително планираната интеграция на Cohere и инфраструктурното разширение на Google Cloud.

Още новини

Още новини от FinanceVelix

Отказ от отговорност

Тази статия на FinanceVelix предоставя обща информация, а не персонализиран финансов, инвестиционен, правен или данъчен съвет. Пазарните цени, лихвените проценти и икономическите условия могат да се променят; инвестициите са свързани с риск от загуба. Фактите отразяват наличната към момента на публикуване информация и могат да се променят. Проверявайте самостоятелно важната информация и при необходимост се консултирайте с квалифициран специалист. Споменаването на актив, компания или услуга не представлява препоръка.