Az Anthropic tőzsdei bevezetéséhez kapcsolódó tájékoztatók arra figyelmeztetnek, hogy a fejlett mesterséges intelligencia katasztrofális vagy egzisztenciális kockázatot jelenthet az emberiségre, ha megfelelő biztosítékok nélkül fejlesztik vagy működtetik. A vállalat a tervezett nyilvános részvénykibocsátáshoz benyújtott dokumentumaiban a biztosítási és az infrastruktúrát érintő kockázatokat is megjelöli.

Legfontosabb tudnivalók

  • A dokumentum a nem rendeltetésszerű használatot, a másolást, a fegyverré alakítást és a nagymértékben autonóm működést jelöli meg a súlyos MI-károk lehetséges forrásaiként.
  • Az Anthropic arra figyelmeztet, hogy a biztosítási kapacitás nem feltétlenül elegendő egy katasztrofális, mesterséges intelligenciával kapcsolatos esemény fedezésére.

Az Anthropic tőzsdei bevezetéséhez benyújtott dokumentum a mesterséges intelligencia kockázatait ismerteti

A dokumentum szerint az Anthropic munkatársai, valamint kutatók, szabályozó hatóságok, döntéshozók és iparági szereplők is aggodalmukat fejezték ki a fejlett mesterséges intelligenciával kapcsolatban. Arra figyelmeztet, hogy kockázatok merülhetnek fel, ha a kellően fejlett rendszerek nem rendelkeznek megfelelő biztosítékokkal, felügyelettel és biztonsági megoldásokkal.

Az Anthropic arra is figyelmeztet, hogy biztosítási kötvényei nem feltétlenül nyújtanak megfelelő fedezetet a lehetséges kötelezettségeire. A vállalat szerint egy katasztrofális, mesterséges intelligenciával kapcsolatos esemény olyan súlyos lehet, hogy egyetlen biztosító, sőt akár a teljes biztosítási ágazat sem rendelkezik elegendő kapacitással vagy szakértelemmel ahhoz, hogy a kockázat mértékének megfelelő fedezetet vállaljon.

A tájékoztatók lehetséges kockázatokat ismertetnek, nem pedig azt állítják, hogy ilyen esemény már bekövetkezett. Az Anthropic azt is közli, hogy a nyilvánosság figyelme az MI lehetséges társadalmi következményeire összpontosult, ideértve a munkahelyek megszűnését és a nem rendeltetésszerű használatot.

Biztonsági politika és működési kockázatok

Az Anthropic szerint a felelős léptéknövelésre vonatkozó szabályzata a mesterséges intelligenciával kapcsolatos katasztrofális kockázatokat kezeli. A vállalat a kockázati jelentéseinek magyarázata szerint ezek a jelentések bemutatják, milyen kockázatokat lát a rendszereiben, milyen felkészültségi szinttel rendelkezik, és milyen intézkedéseket tesz e kockázatok mérséklésére.

A dokumentum hagyományosabb működési kockázatokat is azonosít. Az Anthropic szerint modelljei, platformja és alkalmazásai megbízható villamosenergia- és vízellátástól függenek az infrastruktúrának otthont adó létesítményekben. Az ellátás kiesése, a hiány, a közüzemi költségek emelkedése vagy az áramfelhasználás kötelező korlátozása megzavarhatja a szolgáltatásokat.

További hírek

További hírek a FinanceVelix oldalán

Jogi nyilatkozat

Ez a FinanceVelix-cikk általános tájékoztatást nyújt, nem minősül személyre szabott pénzügyi, befektetési, jogi vagy adótanácsadásnak. A piaci árak, a kamatlábak és a gazdasági körülmények változhatnak; a befektetések veszteség kockázatával járnak. A tények a közzététel időpontjában rendelkezésre álló információkat tükrözik, és változhatnak. Ellenőrizze önállóan a fontos információkat, és szükség esetén forduljon megfelelő képesítéssel rendelkező szakemberhez. Egy eszköz, vállalat vagy szolgáltatás említése nem jelent ajánlást.