Anthropics IPO-oplysninger advarer om, at avanceret kunstig intelligens kan udgøre katastrofale eller eksistentielle risici for menneskeheden, hvis den udvikles eller anvendes uden passende sikkerhedsforanstaltninger. I sit prospekt for en foreslået børsnotering peger selskabet også på potentielle risici vedrørende forsikring og infrastruktur.

Vigtigste punkter

  • Prospektet identificerer misbrug, replikering, anvendelse som våben og drift med høj grad af autonomi som potentielle kilder til alvorlig skade fra AI.
  • Anthropic advarer om, at forsikringskapaciteten muligvis ikke er tilstrækkelig til en katastrofal AI-relateret hændelse.

Anthropics IPO-prospekt beskriver AI-risici

Prospektet oplyser, at bekymringer om avanceret AI er blevet rejst både internt hos Anthropic og af forskere, tilsynsmyndigheder, politiske beslutningstagere og aktører i branchen. Det advarer om, at der kan opstå risici, hvis tilstrækkeligt avancerede systemer ikke har passende sikkerhedsforanstaltninger, tilsyn og beskyttelse.

Anthropic gør også opmærksom på, at selskabets forsikringspolicer muligvis ikke dækker dets potentielle ansvar tilstrækkeligt. Selskabet oplyser, at en katastrofal AI-relateret hændelse kan være så alvorlig, at ingen enkelt forsikringsgiver — eller potentielt forsikringsbranchen som helhed — har tilstrækkelig kapacitet eller ekspertise til at tegne en forsikring, der svarer til risikoeksponeringen.

Oplysningerne beskriver potentielle risici og hævder ikke, at en sådan hændelse har fundet sted. Anthropic oplyser også, at den offentlige granskning har fokuseret på AI's mulige samfundsmæssige konsekvenser, herunder fortrængning af arbejdskraft og misbrug.

Sikkerhedspolitik og operationelle risici

Anthropic oplyser, at selskabets politik for ansvarlig skalering adresserer katastrofale AI-risici. Selskabets forklaring af dets risikorapporter oplyser, at rapporterne beskriver de risici, selskabet ser i sine systemer, dets beredskab og de tiltag, det iværksætter for at afbøde disse risici.

Prospektet identificerer også mere konventionelle operationelle trusler. Anthropic oplyser, at selskabets modeller, platform og applikationer er afhængige af pålidelige forsyninger af elektricitet og vand på de anlæg, der huser infrastrukturen. Strømafbrydelser, forsyningsmangel, højere forsyningsomkostninger eller obligatoriske begrænsninger af elforbruget kan forstyrre tjenesterne.

Læs flere nyheder

Flere nyheder fra FinanceVelix

Ansvarsfraskrivelse

Denne FinanceVelix-artikel indeholder generel information og udgør ikke personlig finansiel, investeringsmæssig, juridisk eller skattemæssig rådgivning. Markedspriser, renter og økonomiske forhold kan ændre sig; investeringer indebærer risiko for tab. Oplysningerne afspejler det materiale, der var tilgængeligt på udgivelsestidspunktet, og kan ændre sig. Kontrollér vigtige oplysninger uafhængigt, og søg råd hos en kvalificeret fagperson efter behov. Omtale af et aktiv, et selskab eller en tjeneste er ikke en anbefaling.