La documentación de Anthropic para su salida a bolsa advierte que la inteligencia artificial avanzada podría plantear riesgos catastróficos o existenciales para la humanidad si se desarrolla o utiliza sin las salvaguardias adecuadas. La empresa también identifica posibles riesgos relacionados con los seguros y la infraestructura en la documentación presentada para una oferta pública propuesta.

Conclusiones clave

  • La documentación identifica el uso indebido, la replicación, la militarización y el funcionamiento con un alto grado de autonomía como posibles fuentes de daños graves causados por la IA.
  • Anthropic advierte que la capacidad del sector asegurador podría ser insuficiente ante un incidente catastrófico relacionado con la IA.

La documentación para la salida a bolsa de Anthropic describe los riesgos de la IA

La documentación señala que investigadores, reguladores, responsables de formular políticas y participantes del sector, así como Anthropic, han expresado preocupación por la IA avanzada. Advierte que podrían surgir riesgos si los sistemas suficientemente avanzados carecen de las salvaguardias, la supervisión y la seguridad adecuadas.

Anthropic también advierte que sus pólizas de seguro podrían no cubrir adecuadamente sus posibles responsabilidades. Afirma que un incidente catastrófico relacionado con la IA podría ser tan grave que ninguna aseguradora individual —o incluso el sector asegurador en su conjunto— tuviera capacidad o conocimientos suficientes para suscribir una cobertura acorde con la exposición.

La documentación describe riesgos potenciales, no afirma que se haya producido un incidente de ese tipo. Anthropic también señala que el escrutinio público se ha centrado en las posibles consecuencias sociales de la IA, entre ellas el desplazamiento de puestos de trabajo y el uso indebido.

Política de seguridad y riesgos operativos

Anthropic afirma que su Política de Escalado Responsable aborda los riesgos catastróficos de la IA. La empresa explicación de sus informes de riesgos señala que estos describen los riesgos que detecta en sus sistemas, su preparación y las medidas que adopta para mitigarlos.

La documentación también identifica amenazas operativas más convencionales. Anthropic afirma que sus modelos, plataforma y aplicaciones dependen de un suministro fiable de electricidad y agua en las instalaciones que albergan su infraestructura. Los cortes, la escasez, el aumento de los costes de los servicios públicos o las restricciones obligatorias del suministro eléctrico podrían interrumpir los servicios.

Leer más noticias

Más noticias de FinanceVelix

Aviso legal

Este artículo de FinanceVelix ofrece información general, no asesoramiento financiero, de inversión, jurídico ni fiscal personalizado. Los precios de mercado, los tipos de interés y las condiciones económicas pueden cambiar; las inversiones conllevan riesgo de pérdidas. Los datos reflejan la información disponible en el momento de la publicación y pueden cambiar. Verifique de forma independiente la información importante y consulte a un profesional cualificado cuando sea necesario. La mención de un activo, empresa o servicio no constituye una recomendación.