Dokumentace společnosti Anthropic k IPO varuje, že pokročilá umělá inteligence by mohla pro lidstvo představovat katastrofická či existenční rizika, pokud by byla vyvíjena nebo provozována bez odpovídajících bezpečnostních opatření. Společnost ve svém podání k plánované veřejné nabídce akcií rovněž upozorňuje na možná rizika související s pojištěním a infrastrukturou.

Klíčové body

  • Podání označuje za možné zdroje závažných škod způsobených AI její zneužití, replikaci, využití jako zbraně a vysoce autonomní provoz.
  • Anthropic varuje, že pojistná kapacita nemusí stačit na katastrofickou událost související s AI.

Podání společnosti Anthropic k IPO shrnuje rizika AI

Podání uvádí, že obavy z pokročilé AI zaznívaly jak uvnitř společnosti Anthropic, tak od výzkumníků, regulačních orgánů, tvůrců politik a účastníků trhu. Varuje, že rizika by mohla vzniknout, pokud dostatečně pokročilé systémy nebudou mít odpovídající bezpečnostní opatření, dohled a zabezpečení.

Anthropic rovněž upozorňuje, že její pojistné smlouvy nemusejí dostatečně pokrývat její případné závazky. Uvádí, že katastrofická událost související s AI by mohla být natolik závažná, že žádná jednotlivá pojišťovna, případně ani celý pojišťovací sektor, nebude mít dostatečnou kapacitu či odborné znalosti k poskytnutí pojistného krytí odpovídajícího dané expozici.

Dokumentace popisuje možná rizika, netvrdí však, že k takové události již došlo. Anthropic také uvádí, že pozornost veřejnosti se soustředila na možné společenské důsledky AI, včetně nahrazování pracovních míst a zneužití.

Bezpečnostní politika a provozní rizika

Anthropic uvádí, že její politika odpovědného rozšiřování (Responsible Scaling Policy) se zabývá katastrofickými riziky AI. Společnosti vysvětlení jejích zpráv o rizicích uvádí, že zprávy popisují rizika, která společnost vnímá ve svých systémech, její připravenost a opatření přijímaná ke zmírnění těchto rizik.

Podání rovněž upozorňuje na běžnější provozní hrozby. Anthropic uvádí, že její modely, platforma a aplikace závisí na spolehlivých dodávkách elektřiny a vody do zařízení, v nichž je umístěna infrastruktura. Výpadky, nedostatek, vyšší náklady na energie nebo povinná omezení spotřeby elektřiny by mohly narušit poskytování služeb.

Číst další zprávy

Další zprávy FinanceVelix

Upozornění

Tento článek FinanceVelix poskytuje obecné informace, nikoli personalizované finanční, investiční, právní nebo daňové poradenství. Tržní ceny, úrokové sazby a ekonomické podmínky se mohou měnit; investice s sebou nesou riziko ztráty. Uvedené skutečnosti vycházejí z materiálů dostupných v době zveřejnění a mohou se změnit. Důležité informace si nezávisle ověřte a v případě potřeby se obraťte na kvalifikovaného odborníka. Zmínka o aktivu, společnosti nebo službě neznamená jejich doporučení.