Upplysningar inför Anthropics börsnotering varnar för att avancerad artificiell intelligens kan utgöra katastrofala eller existentiella risker för mänskligheten om den utvecklas eller används utan lämpliga skyddsåtgärder. I sin ansökan om en föreslagen börsintroduktion pekar bolaget också på potentiella försäkrings- och infrastrukturrelaterade risker.

Viktiga punkter

  • I ansökan anges missbruk, replikering, vapengörande och drift med hög grad av autonomi som potentiella orsaker till allvarlig AI-skada.
  • Anthropic varnar för att försäkringskapaciteten kanske inte räcker till vid en katastrofal AI-relaterad händelse.

Anthropics börsnoteringsansökan beskriver AI-risker

I ansökan står det att farhågor kring avancerad AI har framförts både inom Anthropic och av forskare, tillsynsmyndigheter, beslutsfattare och branschaktörer. Den varnar för att risker kan uppstå om tillräckligt avancerade system saknar lämpliga skyddsåtgärder, tillsyn och säkerhet.

Anthropic påpekar också att bolagets försäkringar kanske inte ger ett tillräckligt skydd mot dess potentiella ansvar. Bolaget uppger att en katastrofal AI-relaterad händelse skulle kunna bli så allvarlig att ingen enskild försäkringsgivare, eller potentiellt försäkringsbranschen som helhet, har tillräcklig kapacitet eller sakkunskap för att teckna ett försäkringsskydd som motsvarar exponeringen.

Upplysningarna beskriver potentiella risker och gör inte gällande att en sådan händelse har inträffat. Anthropic uppger också att den offentliga granskningen har fokuserat på AI:s möjliga samhällskonsekvenser, däribland undanträngning av arbetstillfällen och missbruk.

Säkerhetspolicy och operativa risker

Anthropic uppger att bolagets policy för ansvarsfull uppskalning hanterar katastrofala AI-risker. Bolagets förklaring av sina riskrapporter säger att de beskriver de risker bolaget ser i sina system, dess beredskap och de åtgärder det vidtar för att begränsa riskerna.

Ansökan tar också upp mer konventionella operativa hot. Anthropic uppger att bolagets modeller, plattform och applikationer är beroende av tillförlitliga leveranser av el och vatten till anläggningar som huserar infrastrukturen. Avbrott, brist, högre kostnader för el och vatten eller obligatoriska begränsningar av eltillförseln kan störa tjänsterna.

Läs fler nyheter

Fler nyheter från FinanceVelix

Ansvarsfriskrivning

Den här FinanceVelix-artikeln innehåller allmän information och utgör inte personlig finansiell, investeringsrelaterad, juridisk eller skattemässig rådgivning. Marknadspriser, räntor och ekonomiska förhållanden kan förändras; investeringar innebär risk för förlust. Uppgifterna återger det material som fanns tillgängligt vid publicering och kan förändras. Kontrollera viktig information självständigt och rådfråga vid behov en kvalificerad yrkesperson. Att en tillgång, ett företag eller en tjänst nämns innebär inte att den rekommenderas.