Anthropic IPO披露文件警示，如果开发或运行先进人工智能时缺乏适当的防护措施，可能会给人类带来灾难性或生存性风险。该公司在拟议公开发行的申报文件中还指出了潜在的保险和基础设施风险。

要点

  • 申报文件将滥用、复制、武器化和高度自主运行列为可能造成严重人工智能危害的因素。
  • Anthropic警告称，保险承保能力可能不足以应对灾难性的人工智能相关事件。

Anthropic IPO申报文件概述人工智能风险

申报文件称，Anthropic内部以及研究人员、监管机构、政策制定者和行业参与者都曾提出对先进人工智能的担忧。文件警示，如果足够先进的系统缺乏适当的防护措施、监督和安全保障，就可能产生风险。

Anthropic还提醒称，其保险保单可能无法充分覆盖其潜在责任。该公司表示，灾难性的人工智能相关事件可能造成极其严重的后果，以至于任何单一保险公司，甚至整个保险业，都可能不具备足够的承保能力或专业知识，无法提供与风险敞口相匹配的保障。

披露文件描述的是潜在风险，并非声称此类事件已经发生。Anthropic还表示，公众审视的焦点包括人工智能可能造成的社会后果，例如就业岗位流失和滥用。

安全政策与运营风险

Anthropic表示，其负责任扩展政策针对灾难性人工智能风险。该公司的 风险报告说明 称，报告描述了该公司在其系统中看到的风险、其应对准备情况，以及为减轻这些风险而采取的措施。

申报文件还指出了更常见的运营威胁。Anthropic表示，其模型、平台和应用依赖为托管基础设施的设施提供可靠的电力和水源。停电、短缺、公用事业费用上涨或强制限电都可能中断服务。

阅读更多新闻

FinanceVelix更多新闻

免责声明

本文由FinanceVelix提供一般性信息，不构成个性化的财务、投资、法律或税务建议。市场价格、利率和经济状况可能发生变化；投资存在亏损风险。文中事实反映发布时可获得的资料，之后可能发生变化。请自行核实重要信息，并在需要时咨询合格的专业人士。提及某项资产、公司或服务并不构成对其的背书。