Anthropic 的 IPO 披露文件警告，若未採取適當防護措施便開發或運作先進人工智慧，可能對人類構成災難性或生存層級的風險。該公司在擬議公開發行的申報文件中，也指出潛在的保險與基礎設施風險。

重點摘要

  • 申報文件指出，濫用、複製、武器化及高度自主運作，都是 AI 可能造成嚴重傷害的潛在來源。
  • Anthropic 警告，面對災難性 AI 相關事故，保險承保能力可能不足。

Anthropic IPO 申報文件概述 AI 風險

申報文件指出，Anthropic 內部以及研究人員、監管機構、政策制定者和業界人士，都曾提出對先進 AI 的疑慮。文件警告，若高度先進的系統缺乏適當的防護措施、監督及安全機制，便可能產生風險。

Anthropic 也提醒，其保險保單可能無法充分承保其潛在責任。該公司表示，災難性 AI 相關事故可能嚴重到任何單一保險公司，甚至整個保險業，都不具備足夠的承保能力或專業知識，無法提供與風險曝險相稱的保障。

這些披露描述的是潛在風險，並非聲稱此類事故已經發生。Anthropic 也表示，公眾的審視焦點包括 AI 可能對社會造成的影響，例如工作職位流失及遭到濫用。

安全政策與營運風險

Anthropic 表示，其負責任擴展政策（Responsible Scaling Policy）旨在因應災難性 AI 風險。該公司的 風險報告說明 指出，報告描述了該公司在自身系統中看到的風險、其準備狀況，以及為減輕這些風險所採取的措施。

申報文件也指出較為常見的營運威脅。Anthropic 表示，其模型、平台及應用程式仰賴為基礎設施提供服務的設施具備可靠的電力和供水。停電、供應短缺、公用事業成本上升或強制限電，都可能導致服務中斷。

閱讀更多新聞

更多 FinanceVelix 新聞

免責聲明

本文由 FinanceVelix 提供一般資訊，不構成個人化的財務、投資、法律或稅務建議。市場價格、利率和經濟狀況可能變動；投資存在損失風險。本文所載事實反映發布時可取得的資料，且可能有所變動。請自行核實重要資訊，並在需要時諮詢合格專業人士。提及任何資產、公司或服務，均不代表對其背書。