NVIDIA机密计算正在新增机密裸金属(Confidential Bare Metal),这是一种部署选项,旨在让前沿模型构建者能够在专用的第三方基础设施上运行敏感工作负载,同时保留对其模型、数据和软件栈的控制权。此次扩展为开发者提供了另一种利用外部计算资源的方式,无需采用虚拟化环境。
要点
- 机密裸金属让模型构建者能够在专用的第三方NVIDIA基础设施上运行自己的软件栈。
- Cohere计划将该选项集成至Model Vault;Google Cloud则将支持范围扩展至A4X Max实例。
- 平台支持正扩展至Grace Blackwell和Rubin系统;对DSX OS的支持以及系统合作伙伴能力仍在规划中。
目录
NVIDIA机密计算带来的变化
核心变化在于,将机密计算保护与对裸金属软件环境的控制相结合。NVIDIA表示,模型构建者可以拥有并运营定制化软件栈,包括主机和平台基础设施软件,并将其部署在第三方云、Neocloud和企业基础设施上。
该公司正在推出平台安全控制,旨在保护传输中的数据、测量平台完整性并强制执行硬件级访问限制。其机密计算架构采用基于硬件的隔离和加密证明,以帮助保护执行过程中的模型和数据。
对于寻求额外训练和推理算力的构建者,NVIDIA将此次扩展定位为获取更多地域、主权和运营选择的一种方式。受支持的基础设施提供商则由此获得一条服务敏感工作负载的途径,以满足对模型和数据隐私保护的严格要求。
| 项目 | 详情 |
|---|---|
| 机密裸金属 | 面向敏感工作负载的新部署选项,可在专用的第三方基础设施上运行,并由构建者控制软件栈。 |
| 机密容器 | 适用于NVIDIA融合安全架构内Kubernetes环境的部署选项。 |
| 机密虚拟机 | 适用于虚拟化环境的部署选项。 |
| Cohere Model Vault | Cohere计划借助NVIDIA可信执行环境集成机密裸金属。 |
| Google Cloud | 将机密裸金属支持扩展至由NVIDIA GB300 NVL72系统驱动的A4X Max实例。 |
| NVIDIA DSX OS | 将支持所有NVIDIA机密计算模式,面向构建AI工厂的提供商。 |
各部署选项有何不同
在NVIDIA所称的融合安全架构中,裸金属与机密容器和机密虚拟机并列。三者的区别在于运行环境:专用裸金属基础设施、Kubernetes环境或虚拟化环境。
这种选择很重要,因为组织可以根据自身的信任边界和运营要求选择部署模式。新选项专门面向希望运行自己的主机和平台软件、而非采用容器或虚拟机部署模式的构建者。
Cohere和Google Cloud的举措
Cohere计划将机密裸金属集成至Cohere Model Vault。按计划,该集成将使用NVIDIA机密计算可信执行环境,把基于硬件的安全保护扩展至GPU,从而在执行期间保护内存中以及互连链路上的模型和数据。
Google Cloud正在将机密裸金属支持扩展至由NVIDIA GB300 NVL72系统驱动的A4X Max实例。NVIDIA表示,这些实例将把非虚拟化加速计算与训练数据和模型知识产权的加密保护结合起来。
这是两项不同的采用举措:Cohere描述的是计划将该技术集成至其模型平台,而Google Cloud则是在扩展基础设施支持。两者都不应被视为NVIDIA更广泛生态中的所有提供商均已完成机密裸金属部署的证据。
平台支持进展
NVIDIA表示,机密计算支持现已扩展至Grace Blackwell NVL72机架级系统,以及基于x86的HGX Rubin NVL8和DGX Rubin NVL8系统。这扩大了该安全架构所覆盖的硬件平台范围。
该公司列出CoreWeave、Firmus、GMI Cloud、Google Cloud、IREN、Lambda、Microsoft Azure Infrastructure、Nebius、Nscale和Vultr,称这些厂商支持NVIDIA机密计算部署。此处的生态系统表述涵盖机密计算整体,并不代表每家提供商都提供相同的部署选项。
后续支持仍属前瞻性计划。Cisco、Dell Technologies、HPE、Lenovo、Supermicro和Bull将通过NVIDIA-Certified Systems支持相关能力。NVIDIA DSX OS也将支持所有机密计算模式,为构建和运营AI工厂、承载机密工作负载的云服务提供商提供软件基础。
结论
此次扩展为模型构建者提供了一种以专用基础设施和软件栈控制权为核心的机密计算选项。其实际覆盖范围取决于新增的硬件支持及各提供商的具体举措,包括Cohere计划进行的集成和Google Cloud的基础设施扩展。
阅读更多新闻
免责声明
本文由FinanceVelix提供,仅供一般信息参考,不构成个性化的财务、投资、法律或税务建议。市场价格、利率和经济状况可能发生变化;投资存在亏损风险。本文所述事实依据发布时可获得的资料,且可能发生变化。请独立核实重要信息,并在需要时咨询合格的专业人士。提及任何资产、公司或服务均不构成推荐。




