W dokumentach dotyczących IPO Anthropic ostrzega, że sztuczna inteligencja (AI) może stanowić katastrofalne zagrożenie dla ludzkości lub zagrożenie egzystencjalne, jeśli będzie rozwijana lub wykorzystywana bez odpowiednich zabezpieczeń. W dokumentacji planowanej oferty publicznej spółka wskazuje również na potencjalne ryzyka związane z ubezpieczeniami i infrastrukturą.

Najważniejsze wnioski

  • W dokumentacji wskazano, że niewłaściwe wykorzystanie, replikacja, użycie do celów zbrojeniowych i wysoce autonomiczne działanie mogą prowadzić do poważnych szkód związanych z AI.
  • Anthropic ostrzega, że dostępna pojemność ubezpieczeniowa może być niewystarczająca w przypadku katastrofalnego zdarzenia związanego z AI.

Dokumentacja IPO Anthropic przedstawia ryzyka związane z AI

W dokumentacji podano, że obawy dotyczące zaawansowanej AI wyrażali zarówno przedstawiciele Anthropic, jak i naukowcy, organy regulacyjne, decydenci oraz uczestnicy rynku. Ostrzeżono, że ryzyka mogą wystąpić, jeśli odpowiednio zaawansowanym systemom zabraknie właściwych zabezpieczeń, nadzoru i ochrony.

Anthropic zwraca również uwagę, że jej polisy ubezpieczeniowe mogą nie zapewniać odpowiedniej ochrony przed potencjalną odpowiedzialnością spółki. Jak podano, skutki katastrofalnego zdarzenia związanego z AI mogłyby być tak poważne, że żaden pojedynczy ubezpieczyciel, a potencjalnie nawet cała branża ubezpieczeniowa, nie dysponowałaby wystarczającymi możliwościami ani wiedzą, by zapewnić ochronę odpowiadającą skali ryzyka.

Dokumentacja opisuje potencjalne ryzyka, nie stwierdza jednak, że do takiego zdarzenia doszło. Anthropic informuje również, że opinia publiczna skupiała się na możliwych skutkach społecznych rozwoju AI, w tym na wypieraniu pracowników z rynku pracy i niewłaściwym wykorzystaniu tej technologii.

Polityka bezpieczeństwa i ryzyka operacyjne

Anthropic informuje, że jej Polityka Odpowiedzialnego Skalowania uwzględnia katastrofalne ryzyka związane z AI. Spółki wyjaśnienie dotyczące raportów o ryzyku mówi, że opisują one ryzyka, które dostrzega w swoich systemach, poziom gotowości spółki oraz działania podejmowane w celu ograniczenia tych ryzyk.

W dokumentacji wskazano również bardziej typowe zagrożenia operacyjne. Anthropic podaje, że jej modele, platforma i aplikacje zależą od niezawodnych dostaw energii elektrycznej i wody w obiektach, w których mieści się infrastruktura. Awarie, niedobory, wyższe koszty mediów lub obowiązkowe ograniczenia zużycia energii elektrycznej mogą zakłócić świadczenie usług.

Czytaj więcej wiadomości

Więcej wiadomości FinanceVelix

Zastrzeżenie

Ten artykuł FinanceVelix zawiera ogólne informacje, a nie spersonalizowane porady finansowe, inwestycyjne, prawne ani podatkowe. Ceny rynkowe, stopy procentowe i warunki gospodarcze mogą się zmieniać; inwestycje wiążą się z ryzykiem strat. Przedstawione informacje odzwierciedlają materiały dostępne w chwili publikacji i mogą ulec zmianie. Weryfikuj samodzielnie istotne informacje i w razie potrzeby skonsultuj się z wykwalifikowanym specjalistą. Wzmianka o aktywie, spółce lub usłudze nie stanowi rekomendacji.