Документите за IPO на Anthropic предупреждават, че изкуственият интелект от напреднало поколение може да представлява катастрофален или екзистенциален риск за човечеството, ако бъде разработван или използван без подходящи предпазни мерки. В заявлението за планирано публично предлагане компанията посочва и потенциални застрахователни и инфраструктурни рискове.

Основни изводи

  • В документа са посочени злоупотребата, възпроизвеждането, превръщането в оръжие и силно автономната работа като потенциални източници на сериозни вреди от ИИ.
  • Anthropic предупреждава, че застрахователният капацитет може да не е достатъчен при катастрофален инцидент, свързан с ИИ.

Документът за IPO на Anthropic очертава рисковете от ИИ

В документа се посочва, че опасения относно напредналия ИИ са изразявани както в Anthropic, така и от изследователи, регулатори, политици и участници в индустрията. В него се предупреждава, че рискове могат да възникнат, ако достатъчно напредналите системи нямат подходящи предпазни мерки, надзор и защита.

Anthropic предупреждава също, че застрахователните ѝ полици може да не покриват адекватно потенциалните ѝ задължения. Компанията посочва, че катастрофален инцидент, свързан с ИИ, може да бъде толкова тежък, че нито един застраховател — а потенциално и застрахователният сектор като цяло — да не разполага с достатъчен капацитет или експертен опит, за да поеме покритие, съответстващо на риска.

В документите се описват потенциални рискове, а не се твърди, че такъв инцидент вече е настъпил. Anthropic посочва също, че общественото внимание е насочено към възможните последици от ИИ за обществото, включително изместването на работни места и злоупотребата.

Политика за безопасност и оперативни рискове

Anthropic посочва, че нейната Политика за отговорно мащабиране разглежда катастрофалните рискове от ИИ. Обяснението на компанията за докладите ѝ за рисковете гласи, че те описват рисковете, които компанията вижда в своите системи, степента ѝ на готовност и мерките, които предприема за ограничаване на тези рискове.

В документа са посочени и по-традиционни оперативни заплахи. Anthropic казва, че нейните модели, платформа и приложения зависят от надеждни доставки на електроенергия и вода в съоръженията, в които се намира инфраструктурата. Прекъсвания, недостиг, по-високи комунални разходи или задължителни ограничения на електропотреблението могат да нарушат предоставянето на услугите.

Още новини

Още новини от FinanceVelix

Отказ от отговорност

Тази статия на FinanceVelix предоставя обща информация, а не персонализиран финансов, инвестиционен, правен или данъчен съвет. Пазарните цени, лихвените проценти и икономическите условия могат да се променят; инвестициите носят риск от загуба. Фактите отразяват наличните към момента на публикуване данни и могат да се променят. Проверявайте важната информация самостоятелно и при необходимост се консултирайте с квалифициран специалист. Споменаването на актив, компания или услуга не представлява препоръка.