Anthropic varoittaa listautumisantiin liittyvissä tiedonannoissaan, että kehittynyt tekoäly voi aiheuttaa ihmiskunnalle katastrofaalisia tai eksistentiaalisia riskejä, jos sitä kehitetään tai käytetään ilman asianmukaisia suojatoimia. Yhtiö tuo suunniteltua julkista osakeantia koskevassa ilmoituksessaan esiin myös mahdollisia vakuutus- ja infrastruktuuririskejä.

Keskeiset huomiot

  • Ilmoituksessa mainitaan tekoälyn mahdollisen vakavan haitan lähteinä väärinkäyttö, kopiointi, aseistaminen ja erittäin autonominen toiminta.
  • Anthropic varoittaa, että vakuutuskapasiteetti ei välttämättä riitä kattamaan katastrofaalista tekoälyyn liittyvää tapahtumaa.

Anthropicin listautumisanti-ilmoitus hahmottelee tekoälyriskejä

Ilmoituksen mukaan huolta kehittyneestä tekoälystä ovat ilmaisseet Anthropicin sisällä sekä tutkijat, sääntelyviranomaiset, päättäjät ja alan toimijat. Siinä varoitetaan, että riskejä voi syntyä, jos riittävän kehittyneissä järjestelmissä ei ole asianmukaisia suojatoimia, valvontaa ja tietoturvaa.

Anthropic varoittaa myös, etteivät sen vakuutukset välttämättä kata riittävästi sen mahdollisia vastuita. Yhtiön mukaan katastrofaalinen tekoälyyn liittyvä tapahtuma voisi olla niin vakava, ettei millään yksittäisellä vakuutusyhtiöllä – eikä mahdollisesti koko vakuutusalalla – olisi riittävästi kapasiteettia tai asiantuntemusta vakuutusturvan myöntämiseen, joka vastaisi riskiä.

Tiedonannoissa kuvataan mahdollisia riskejä, eikä niissä väitetä, että tällainen tapahtuma olisi toteutunut. Anthropic kertoo myös, että julkinen tarkastelu on keskittynyt tekoälyn mahdollisiin yhteiskunnallisiin seurauksiin, kuten työpaikkojen katoamiseen ja väärinkäyttöön.

Turvallisuuspolitiikka ja operatiiviset riskit

Anthropicin mukaan sen vastuullisen skaalauksen politiikassa käsitellään katastrofaalisia tekoälyriskejä. Yhtiön riskiraportteja koskevassa selityksessä kerrotaan, että niissä kuvataan yhtiön järjestelmissä havaitsemia riskejä, sen valmiutta sekä toimia, joilla se pyrkii lieventämään näitä riskejä.

Ilmoituksessa mainitaan myös tavanomaisempia operatiivisia uhkia. Anthropicin mukaan sen mallit, alusta ja sovellukset ovat riippuvaisia luotettavista sähkö- ja vesihuollon palveluista infrastruktuuria ylläpitävissä tiloissa. Sähkökatkot, puutteet, korkeammat käyttökustannukset tai pakolliset sähkörajoitukset voivat häiritä palveluja.

Lue lisää uutisia

Lisää FinanceVelix-uutisia

Vastuuvapauslauseke

Tämä FinanceVelixin artikkeli tarjoaa yleistä tietoa, ei henkilökohtaista talous-, sijoitus-, laki- tai veroneuvontaa. Markkinahinnat, korot ja talousolot voivat muuttua; sijoituksiin liittyy tappioriski. Tiedot perustuvat julkaisuhetkellä saatavilla olleeseen aineistoon, ja ne voivat muuttua. Tarkista tärkeät tiedot itsenäisesti ja käänny tarvittaessa pätevän ammattilaisen puoleen. Omaisuuserän, yhtiön tai palvelun mainitseminen ei ole suositus.