У розкритті інформації перед IPO Anthropic попереджає, що передовий штучний інтелект може становити катастрофічну або екзистенційну загрозу для людства, якщо його розробляти чи експлуатувати без належних запобіжників. У документах для запланованого публічного розміщення акцій компанія також зазначає потенційні страхові та інфраструктурні ризики.

Ключові висновки

  • У документах як потенційні джерела серйозної шкоди від ШІ названо його зловмисне використання, відтворення, перетворення на зброю та роботу з високим рівнем автономності.
  • Anthropic попереджає, що страхових потужностей може виявитися недостатньо для покриття катастрофічного інциденту, пов’язаного з ШІ.

У документах до IPO Anthropic окреслено ризики ШІ

У документах зазначається, що занепокоєння щодо передового ШІ висловлювали як усередині Anthropic, так і дослідники, регулятори, політики та учасники галузі. У них попереджають, що ризики можуть виникнути, якщо достатньо передові системи не матимуть належних запобіжників, нагляду та захисту.

Anthropic також застерігає, що її страхові поліси можуть не забезпечити належного покриття потенційних зобов’язань компанії. Компанія зазначає, що катастрофічний інцидент, пов’язаний із ШІ, може бути настільки масштабним, що жоден окремий страховик або, можливо, навіть уся страхова галузь не матиме достатніх можливостей чи досвіду, щоб надати покриття, яке відповідало б рівню ризику.

У розкритті інформації описано потенційні ризики, а не стверджується, що такий інцидент уже стався. Anthropic також зазначає, що увага громадськості зосереджена на можливих суспільних наслідках ШІ, зокрема на витісненні працівників із робочих місць і зловмисному використанні технології.

Політика безпеки та операційні ризики

Anthropic зазначає, що її політика відповідального масштабування враховує катастрофічні ризики ШІ. У поясненні її звітів про ризики йдеться, що в них описано ризики, які компанія бачить у своїх системах, рівень її готовності та заходи, яких вона вживає для пом’якшення цих ризиків.

У документах також названо більш традиційні операційні загрози. Anthropic зазначає, що її моделі, платформа та застосунки залежать від надійного постачання електроенергії та води до об’єктів, де розміщена інфраструктура. Відключення, дефіцит ресурсів, підвищення тарифів на комунальні послуги або обов’язкове обмеження споживання електроенергії можуть порушити роботу сервісів.

Читайте більше новин

Більше новин FinanceVelix

Застереження

Ця стаття FinanceVelix містить загальну інформацію, а не персоналізовані фінансові, інвестиційні, юридичні чи податкові поради. Ринкові ціни, процентні ставки та економічні умови можуть змінюватися; інвестиції пов’язані з ризиком збитків. Викладені факти відображають інформацію, доступну на момент публікації, і можуть змінитися. Самостійно перевіряйте важливу інформацію та за потреби звертайтеся до кваліфікованого фахівця. Згадка про актив, компанію чи послугу не є рекомендацією.