В документах Anthropic для IPO предупреждают, что искусственный интеллект продвинутого уровня может представлять катастрофическую или экзистенциальную угрозу для человечества, если его разрабатывать или использовать без надлежащих мер защиты. Компания также указывает на потенциальные риски, связанные со страхованием и инфраструктурой, в документах для предполагаемого публичного размещения акций.

Основные выводы

  • В документах в качестве потенциальных источников серьезного вреда от ИИ указаны неправомерное использование, копирование, применение в качестве оружия и высокоавтономная работа.
  • Anthropic предупреждает, что страховых мощностей может оказаться недостаточно для покрытия катастрофического инцидента, связанного с ИИ.

В документах Anthropic для IPO описаны риски, связанные с ИИ

В документах говорится, что опасения по поводу передового ИИ высказывались как внутри Anthropic, так и исследователями, регулирующими органами, представителями власти и участниками отрасли. В них предупреждают, что риски могут возникнуть, если достаточно развитые системы не будут оснащены надлежащими мерами защиты, контроля и безопасности.

Anthropic также предупреждает, что ее страховые полисы могут не обеспечивать достаточного покрытия потенциальной ответственности компании. По ее словам, последствия катастрофического инцидента, связанного с ИИ, могут быть настолько серьезными, что ни одному страховщику, а возможно, и всей страховой отрасли в целом, не хватит возможностей или опыта для предоставления покрытия, соответствующего уровню риска.

В документах описаны потенциальные риски, а не утверждается, что такой инцидент уже произошел. Anthropic также отмечает, что общественное внимание сосредоточено на возможных последствиях ИИ для общества, включая вытеснение работников с рабочих мест и неправомерное использование.

Политика безопасности и операционные риски

Anthropic заявляет, что ее Политика ответственного масштабирования направлена на решение проблемы катастрофических рисков ИИ. В пояснении к отчетам о рисках говорится, что в них описаны риски, которые компания выявляет в своих системах, ее готовность к ним и меры, принимаемые для их снижения.

В документах также указаны более традиционные операционные угрозы. Anthropic сообщает, что ее модели, платформа и приложения зависят от надежного снабжения электроэнергией и водой объектов, где размещена инфраструктура. Отключения, дефицит ресурсов, рост коммунальных расходов или обязательные ограничения электроснабжения могут нарушить работу сервисов.

Читать другие новости

Другие новости FinanceVelix

Отказ от ответственности

Эта статья FinanceVelix содержит общую информацию и не является персональной финансовой, инвестиционной, юридической или налоговой консультацией. Рыночные цены, процентные ставки и экономические условия могут меняться; инвестиции сопряжены с риском убытков. Факты отражают информацию, доступную на момент публикации, и могут измениться. Самостоятельно проверяйте важную информацию и при необходимости обращайтесь к квалифицированному специалисту. Упоминание актива, компании или услуги не является рекомендацией.