As divulgações da Anthropic para o IPO alertam que a inteligência artificial avançada pode representar riscos catastróficos ou existenciais para a humanidade se for desenvolvida ou operada sem salvaguardas adequadas. A empresa também identifica possíveis riscos relacionados a seguros e infraestrutura em seu registro para uma oferta pública proposta.

Principais conclusões

  • O registro identifica o uso indevido, a replicação, a transformação em arma e a operação altamente autônoma como possíveis fontes de danos graves causados pela IA.
  • A Anthropic alerta que a capacidade disponível no mercado de seguros pode ser insuficiente para um incidente catastrófico relacionado à IA.

Registro de IPO da Anthropic detalha riscos da IA

O registro afirma que preocupações com a IA avançada foram levantadas tanto dentro da Anthropic quanto por pesquisadores, reguladores, formuladores de políticas e participantes do setor. O documento alerta que podem surgir riscos se sistemas suficientemente avançados não contarem com salvaguardas, supervisão e segurança adequadas.

A Anthropic também adverte que suas apólices de seguro podem não cobrir adequadamente suas possíveis responsabilidades. A empresa afirma que um incidente catastrófico relacionado à IA poderia ser tão grave que nenhuma seguradora isolada — ou possivelmente o setor de seguros como um todo — teria capacidade ou conhecimento especializado suficientes para oferecer cobertura compatível com a exposição.

As divulgações descrevem riscos potenciais, e não afirmam que tal incidente tenha ocorrido. A Anthropic também diz que o escrutínio público tem se concentrado nas possíveis consequências sociais da IA, incluindo o deslocamento de empregos e o uso indevido.

Política de segurança e riscos operacionais

A Anthropic afirma que sua Política de Escalonamento Responsável aborda os riscos catastróficos da IA. A explicação da empresa sobre seus relatórios de risco afirma que eles descrevem os riscos que a empresa identifica em seus sistemas, seu nível de preparação e as medidas adotadas para mitigar esses riscos.

O registro também identifica ameaças operacionais mais convencionais. A Anthropic afirma que seus modelos, plataforma e aplicativos dependem do fornecimento confiável de eletricidade e água nas instalações que hospedam sua infraestrutura. Interrupções, escassez, custos mais altos de serviços públicos ou cortes obrigatórios no fornecimento de eletricidade poderiam interromper os serviços.

Leia mais notícias

Mais notícias da FinanceVelix

Aviso legal

Este artigo da FinanceVelix fornece informações gerais, não aconselhamento financeiro, de investimento, jurídico ou tributário personalizado. Os preços de mercado, as taxas de juros e as condições econômicas podem mudar; os investimentos envolvem risco de perda. Os fatos refletem o material disponível no momento da publicação e podem mudar. Verifique informações importantes de forma independente e consulte um profissional qualificado quando necessário. A menção a um ativo, empresa ou serviço não constitui endosso.