Die IPO-Unterlagen von Anthropic warnen, dass fortgeschrittene künstliche Intelligenz eine katastrophale oder existenzielle Gefahr für die Menschheit darstellen könnte, wenn sie ohne angemessene Schutzvorkehrungen entwickelt oder betrieben wird. In den Unterlagen für einen geplanten Börsengang weist das Unternehmen zudem auf mögliche Versicherungs- und Infrastrukturrisiken hin.

Wichtige Erkenntnisse

  • In den Unterlagen werden Missbrauch, Replikation, Waffenentwicklung und ein hochgradig autonomer Betrieb als mögliche Ursachen schwerer KI-Schäden genannt.
  • Anthropic warnt, dass die Versicherungskapazitäten für einen katastrophalen KI-bezogenen Vorfall möglicherweise nicht ausreichen.

IPO-Unterlagen von Anthropic skizzieren KI-Risiken

Laut den Unterlagen wurden Bedenken hinsichtlich fortgeschrittener KI sowohl innerhalb von Anthropic als auch von Forschern, Regulierungsbehörden, politischen Entscheidungsträgern und Branchenvertretern geäußert. Sie warnen, dass Risiken entstehen könnten, wenn ausreichend fortgeschrittene Systeme nicht über angemessene Schutzvorkehrungen, Aufsicht und Sicherheitsmaßnahmen verfügen.

Anthropic weist außerdem darauf hin, dass seine Versicherungspolicen seine potenziellen Haftungsverpflichtungen möglicherweise nicht angemessen abdecken. Das Unternehmen erklärt, ein katastrophaler KI-bezogener Vorfall könnte so schwerwiegend sein, dass weder ein einzelner Versicherer noch möglicherweise die Versicherungsbranche insgesamt über ausreichende Kapazitäten oder Fachkenntnisse verfügt, um einen Versicherungsschutz zu übernehmen, der dem Risiko entspricht.

Die Offenlegungen beschreiben mögliche Risiken und behaupten nicht, dass sich ein solcher Vorfall ereignet hat. Anthropic erklärt außerdem, dass sich die öffentliche Aufmerksamkeit auf mögliche gesellschaftliche Folgen von KI konzentriert hat, darunter den Wegfall von Arbeitsplätzen und Missbrauch.

Sicherheitspolitik und betriebliche Risiken

Anthropic erklärt, dass seine Richtlinie für verantwortungsvolle Skalierung Risiken einer katastrophalen KI adressiert. Die Erläuterung seiner Risikoberichte des Unternehmens besagt, dass darin die Risiken beschrieben werden, die es bei seinen Systemen sieht, seine Bereitschaft sowie die Maßnahmen, die es zur Minderung dieser Risiken ergreift.

Die Unterlagen nennen auch eher herkömmliche betriebliche Gefahren. Anthropic zufolge sind seine Modelle, Plattform und Anwendungen auf eine zuverlässige Strom- und Wasserversorgung an Standorten angewiesen, an denen Infrastruktur untergebracht ist. Ausfälle, Engpässe, höhere Versorgungskosten oder verpflichtende Strombeschränkungen könnten den Betrieb beeinträchtigen.

Weitere Nachrichten lesen

Weitere Nachrichten von FinanceVelix

Haftungsausschluss

Dieser Artikel von FinanceVelix enthält allgemeine Informationen und stellt keine persönliche Finanz-, Anlage-, Rechts- oder Steuerberatung dar. Marktpreise, Zinssätze und wirtschaftliche Bedingungen können sich ändern; Anlagen sind mit einem Verlustrisiko verbunden. Die Fakten geben den zum Zeitpunkt der Veröffentlichung verfügbaren Informationsstand wieder und können sich ändern. Prüfen Sie wichtige Informationen eigenständig und wenden Sie sich bei Bedarf an eine qualifizierte Fachperson. Die Erwähnung eines Vermögenswerts, eines Unternehmens oder einer Dienstleistung stellt keine Empfehlung dar.