Anthropics IPO-opplysninger advarer om at avansert kunstig intelligens kan utgjøre katastrofale eller eksistensielle risikoer for menneskeheten dersom den utvikles eller brukes uten nødvendige sikkerhetstiltak. Selskapet peker også på potensielle forsikrings- og infrastrukturrisikoer i dokumentene for en planlagt offentlig emisjon.

Viktige punkter

  • Dokumentene peker på misbruk, replikering, våpengjøring og svært autonom drift som potensielle kilder til alvorlig KI-skade.
  • Anthropic advarer om at forsikringskapasiteten kanskje ikke er tilstrekkelig ved en katastrofal KI-relatert hendelse.

Anthropics IPO-dokumenter skisserer KI-risikoer

Dokumentene opplyser at bekymringer rundt avansert KI er blitt reist både internt i Anthropic og av forskere, tilsynsmyndigheter, beslutningstakere og aktører i bransjen. De advarer om at risikoer kan oppstå dersom tilstrekkelig avanserte systemer mangler nødvendige sikkerhetstiltak, tilsyn og sikkerhet.

Anthropic advarer også om at forsikringspolicene selskapet har, kanskje ikke dekker dets potensielle ansvar i tilstrekkelig grad. Selskapet sier at en katastrofal KI-relatert hendelse kan være så alvorlig at ingen enkelt forsikringsgiver, eller potensielt forsikringsbransjen som helhet, har tilstrekkelig kapasitet eller ekspertise til å tegne forsikring med dekning som står i forhold til eksponeringen.

Opplysningene beskriver potensielle risikoer, ikke en påstand om at en slik hendelse har funnet sted. Anthropic sier også at offentlig oppmerksomhet har vært rettet mot mulige samfunnsmessige konsekvenser av KI, blant annet tap av arbeidsplasser og misbruk.

Sikkerhetspolicy og operasjonelle risikoer

Anthropic sier at selskapets policy for ansvarlig skalering tar for seg katastrofale KI-risikoer. Selskapets forklaring av risikorapportene sier at de beskriver risikoene selskapet ser i systemene sine, beredskapen og tiltakene det iverksetter for å redusere disse risikoene.

Dokumentene peker også på mer konvensjonelle operasjonelle trusler. Anthropic sier at modellene, plattformen og applikasjonene er avhengige av pålitelig tilgang til strøm og vann ved anleggene som huser infrastrukturen. Avbrudd, mangler, høyere strøm- og vannkostnader eller pålagte strømrasjoneringer kan forstyrre tjenestene.

Les flere nyheter

Flere nyheter fra FinanceVelix

Ansvarsfraskrivelse

Denne FinanceVelix-artikkelen inneholder generell informasjon, ikke personlig tilpasset finansiell, investeringsmessig, juridisk eller skattemessig rådgivning. Markedspriser, renter og økonomiske forhold kan endre seg; investeringer innebærer risiko for tap. Opplysningene gjenspeiler materialet som var tilgjengelig da artikkelen ble publisert, og kan endre seg. Kontroller viktig informasjon på egen hånd, og rådfør deg med en kvalifisert fagperson ved behov. Omtale av en eiendel, et selskap eller en tjeneste er ikke en anbefaling.