NVIDIA Confidential Computing incorpora Confidential Bare Metal, una opción de implementación diseñada para que los desarrolladores de modelos de vanguardia ejecuten cargas de trabajo sensibles en infraestructura dedicada de terceros, manteniendo el control de sus modelos, datos y pila de software. La ampliación ofrece a los desarrolladores otra forma de utilizar capacidad informática externa sin adoptar un entorno virtualizado.
Puntos clave
- Confidential Bare Metal permite a los desarrolladores de modelos operar su propia pila de software en infraestructura NVIDIA dedicada de terceros.
- Cohere planea integrar esta opción en Model Vault, mientras que Google Cloud amplía el soporte a las instancias A4X Max.
- El soporte de la plataforma se amplía a los sistemas Grace Blackwell y Rubin; están previstos el soporte para DSX OS y las capacidades de los socios de sistemas.
Índice
- Qué cambia con NVIDIA Confidential Computing
- En qué se diferencian las opciones de implementación
- Qué están haciendo Cohere y Google Cloud
- Situación actual del soporte de la plataforma
- Conclusión
Qué cambia con NVIDIA Confidential Computing
El cambio principal consiste en combinar las protecciones de la computación confidencial con el control de un entorno de software bare metal. NVIDIA afirma que los desarrolladores de modelos pueden ser propietarios de una pila personalizada y operarla, incluido el software de infraestructura de plataforma y de host, en infraestructura de nube de terceros, neocloud y empresarial.
La compañía está introduciendo controles de seguridad de plataforma concebidos para proteger los datos en tránsito, medir la integridad de la plataforma y aplicar restricciones de acceso a nivel de hardware. Su arquitectura de computación confidencial utiliza aislamiento basado en hardware y atestación criptográfica para ayudar a proteger los modelos y los datos durante la ejecución.
Para los desarrolladores que buscan capacidad adicional para entrenamiento e inferencia, NVIDIA presenta esta ampliación como una forma de acceder a más opciones geográficas, soberanas y operativas. A su vez, los proveedores de infraestructura compatibles obtienen una vía para ofrecer servicios a cargas de trabajo sensibles que requieren sólidas protecciones de privacidad para modelos y datos.
| Elemento | Detalles |
|---|---|
| Confidential Bare Metal | Nueva opción de implementación para cargas de trabajo sensibles en infraestructura dedicada de terceros, con control de la pila de software por parte del desarrollador. |
| Confidential Containers | Opción de implementación para entornos Kubernetes dentro de la arquitectura de seguridad convergente de NVIDIA. |
| Confidential Virtual Machines | Opción de implementación para entornos virtualizados. |
| Cohere Model Vault | Cohere planea integrar Confidential Bare Metal mediante entornos de ejecución confiables de NVIDIA. |
| Google Cloud | Amplía el soporte de Confidential Bare Metal a las instancias A4X Max, impulsadas por sistemas NVIDIA GB300 NVL72. |
| NVIDIA DSX OS | Admitirá todos los modos de NVIDIA Confidential Computing para los proveedores que desarrollan fábricas de IA. |
En qué se diferencian las opciones de implementación
Bare metal se suma a Confidential Containers y Confidential Virtual Machines dentro de lo que NVIDIA describe como una arquitectura de seguridad convergente. La diferencia radica en el entorno operativo: infraestructura bare metal dedicada, entornos Kubernetes o entornos virtualizados.
Esta elección es importante porque las organizaciones pueden seleccionar un modelo de implementación que se ajuste a sus límites de confianza y requisitos operativos. La nueva opción está dirigida específicamente a los desarrolladores que quieren ejecutar su propio software de host y plataforma, en lugar de utilizar los modelos de implementación de contenedores o máquinas virtuales.
Qué están haciendo Cohere y Google Cloud
Cohere planea integrar Confidential Bare Metal en Cohere Model Vault. La integración prevista utilizaría entornos de ejecución confiables de NVIDIA Confidential Computing para extender la seguridad basada en hardware a la GPU, protegiendo modelos y datos en memoria y a través de las interconexiones durante la ejecución.
Google Cloud amplía el soporte de Confidential Bare Metal a las instancias A4X Max, impulsadas por sistemas NVIDIA GB300 NVL72. NVIDIA afirma que esas instancias combinarán computación acelerada no virtualizada con protección criptográfica para los datos de entrenamiento y la propiedad intelectual de los modelos.
Se trata de pasos de adopción distintos: Cohere describe una integración prevista en su plataforma de modelos, mientras que Google Cloud amplía el soporte de infraestructura. Ninguno debe interpretarse como prueba de que todos los proveedores del ecosistema más amplio de NVIDIA hayan completado el despliegue de Confidential Bare Metal.
Situación actual del soporte de la plataforma
NVIDIA afirma que el soporte de Confidential Computing ya se extiende a los sistemas de rack Grace Blackwell NVL72, así como a los sistemas HGX Rubin NVL8 y DGX Rubin NVL8 basados en x86. Esto amplía las plataformas de hardware cubiertas por la arquitectura de seguridad.
La compañía menciona a CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale y Vultr como proveedores que admiten implementaciones de NVIDIA Confidential Computing. Esta declaración sobre el ecosistema se refiere a Confidential Computing en general, y no establece que todos los proveedores ofrezcan las mismas opciones de implementación.
El soporte adicional aún está por llegar. Cisco, Dell Technologies, HPE, Lenovo, Supermicro y Bull admitirán estas capacidades a través de NVIDIA-Certified Systems. NVIDIA DSX OS también admitirá todos los modos de Confidential Computing, proporcionando una base de software para los proveedores de nube que desarrollan y operan fábricas de IA con cargas de trabajo confidenciales.
Conclusión
La ampliación ofrece a los desarrolladores de modelos una opción de computación confidencial basada en infraestructura dedicada y control de la pila de software. Su alcance práctico combina el soporte de hardware recién ampliado con medidas específicas de cada proveedor, incluida la integración prevista de Cohere y la expansión de infraestructura de Google Cloud.
Leer más noticias
Aviso legal
Este artículo de FinanceVelix ofrece información general, no asesoramiento financiero, de inversión, legal ni fiscal personalizado. Los precios de mercado, los tipos de interés y las condiciones económicas pueden cambiar; las inversiones conllevan riesgo de pérdida. Los hechos reflejan la información disponible en el momento de la publicación y pueden cambiar. Verifique de forma independiente la información importante y consulte a un profesional cualificado cuando sea necesario. La mención de un activo, una empresa o un servicio no constituye un respaldo.
