Zverejnené informácie k IPO spoločnosti Anthropic varujú, že umelá inteligencia na pokročilej úrovni by mohla predstavovať pre ľudstvo katastrofické alebo existenčné riziká, ak by sa vyvíjala alebo prevádzkovala bez primeraných ochranných opatrení. Spoločnosť vo svojom podaní k plánovanej verejnej ponuke identifikuje aj potenciálne riziká súvisiace s poistením a infraštruktúrou.

Kľúčové zistenia

  • V podaní sa ako možné zdroje závažných škôd spôsobených AI uvádzajú jej zneužitie, replikácia, použitie ako zbrane a vysoko autonómna prevádzka.
  • Anthropic varuje, že kapacita poisťovní nemusí byť dostatočná na pokrytie katastrofického incidentu súvisiaceho s AI.

Podanie spoločnosti Anthropic k IPO približuje riziká AI

V podaní sa uvádza, že obavy z pokročilej AI vyjadrili v rámci spoločnosti Anthropic, ako aj výskumníci, regulačné orgány, tvorcovia politík a účastníci odvetvia. Varuje sa v ňom, že riziká môžu vzniknúť, ak dostatočne pokročilé systémy nebudú mať primerané ochranné opatrenia, dohľad a zabezpečenie.

Anthropic tiež upozorňuje, že jej poistné zmluvy nemusia dostatočne pokrývať potenciálne záväzky spoločnosti. Uvádza, že katastrofický incident súvisiaci s AI by mohol byť natoľko závažný, že ani jedna poisťovňa, prípadne ani celý poistný sektor, by nemali dostatočnú kapacitu alebo odborné znalosti na upísanie poistného krytia zodpovedajúceho rozsahu rizika.

Zverejnené informácie opisujú potenciálne riziká; netvrdia, že k takémuto incidentu došlo. Anthropic tiež uvádza, že pozornosť verejnosti sa sústredila na možné spoločenské dôsledky AI vrátane vytláčania pracovných miest a zneužitia.

Bezpečnostná politika a prevádzkové riziká

Anthropic uvádza, že jej politika zodpovedného rozširovania rieši katastrofické riziká AI. Vysvetlenie spoločnosti jej správ o rizikách uvádza, že správy opisujú riziká, ktoré spoločnosť vidí vo svojich systémoch, jej pripravenosť a opatrenia, ktoré prijíma na zmiernenie týchto rizík.

V podaní sa uvádzajú aj bežnejšie prevádzkové hrozby. Anthropic uvádza, že jej modely, platforma a aplikácie závisia od spoľahlivých dodávok elektriny a vody v zariadeniach, v ktorých je umiestnená infraštruktúra. Výpadky, nedostatok dodávok, vyššie náklady na energie alebo povinné obmedzenia spotreby elektriny by mohli narušiť poskytovanie služieb.

Čítať ďalšie správy

Ďalšie správy FinanceVelix

Upozornenie

Tento článok FinanceVelix poskytuje všeobecné informácie, nie personalizované finančné, investičné, právne ani daňové poradenstvo. Trhové ceny, úrokové sadzby a ekonomické podmienky sa môžu meniť; investície prinášajú riziko straty. Uvedené skutočnosti vychádzajú z materiálov dostupných v čase zverejnenia a môžu sa zmeniť. Dôležité informácie si overte nezávisle a v prípade potreby sa obráťte na kvalifikovaného odborníka. Zmienka o aktíve, spoločnosti alebo službe nepredstavuje odporúčanie.