In de openbaarmakingen rond de Anthropic-IPO wordt gewaarschuwd dat geavanceerde kunstmatige intelligentie catastrofale of existentiële risico’s voor de mensheid kan opleveren als die zonder passende waarborgen wordt ontwikkeld of ingezet. Het bedrijf wijst in zijn aanvraag voor een voorgenomen openbare aanbieding ook op mogelijke verzekerings- en infrastructuurrisico’s.

Belangrijkste punten

  • In de aanvraag worden misbruik, replicatie, bewapening en zeer autonome werking genoemd als mogelijke oorzaken van ernstige schade door AI.
  • Anthropic waarschuwt dat de verzekeringscapaciteit mogelijk ontoereikend is voor een catastrofaal AI-gerelateerd incident.

Anthropic-IPO-aanvraag schetst AI-risico’s

Volgens de aanvraag zijn er binnen Anthropic en bij onderzoekers, toezichthouders, beleidsmakers en deelnemers uit de sector zorgen geuit over geavanceerde AI. Er wordt gewaarschuwd dat risico’s kunnen ontstaan als voldoende geavanceerde systemen niet over passende waarborgen, toezicht en beveiliging beschikken.

Anthropic waarschuwt ook dat zijn verzekeringspolissen mogelijke aansprakelijkheden mogelijk niet afdoende dekken. Het bedrijf zegt dat een catastrofaal AI-gerelateerd incident zo ernstig kan zijn dat geen enkele verzekeraar, of mogelijk de verzekeringssector als geheel, over voldoende capaciteit of expertise beschikt om een dekking te onderschrijven die bij de blootstelling aansluit.

De openbaarmakingen beschrijven mogelijke risico’s en stellen niet dat een dergelijk incident zich heeft voorgedaan. Anthropic zegt ook dat de publieke aandacht zich heeft gericht op mogelijke maatschappelijke gevolgen van AI, waaronder verdringing van banen en misbruik.

Veiligheidsbeleid en operationele risico’s

Anthropic zegt dat zijn Responsible Scaling Policy de catastrofale risico’s van AI aanpakt. De uitleg van het bedrijf over zijn risicorapporten zegt dat daarin de risico’s worden beschreven die het bedrijf in zijn systemen ziet, zijn paraatheid en de maatregelen die het neemt om die risico’s te beperken.

De aanvraag wijst ook op meer conventionele operationele bedreigingen. Anthropic zegt dat zijn modellen, platform en toepassingen afhankelijk zijn van betrouwbare elektriciteits- en watervoorziening op locaties waar infrastructuur is ondergebracht. Stroomuitval, tekorten, hogere nutsvoorzieningskosten of verplichte beperkingen van het elektriciteitsverbruik kunnen diensten verstoren.

Lees meer nieuws

Meer nieuws van FinanceVelix

Disclaimer

Dit artikel van FinanceVelix biedt algemene informatie en geen persoonlijk financieel, beleggings-, juridisch of fiscaal advies. Marktprijzen, rentetarieven en economische omstandigheden kunnen veranderen; aan beleggen is verliesrisico verbonden. De feiten zijn gebaseerd op het materiaal dat beschikbaar was op het moment van publicatie en kunnen veranderen. Controleer belangrijke informatie zelfstandig en raadpleeg indien nodig een gekwalificeerde deskundige. Vermelding van een activum, bedrijf of dienst is geen aanbeveling.