Pengungkapan IPO Anthropic memperingatkan bahwa kecerdasan buatan tingkat lanjut dapat menimbulkan risiko dahsyat atau eksistensial bagi umat manusia jika dikembangkan atau dioperasikan tanpa perlindungan yang memadai. Perusahaan juga mengidentifikasi potensi risiko asuransi dan infrastruktur dalam dokumennya untuk rencana penawaran umum.

Poin-Poin Utama

  • Dokumen tersebut mengidentifikasi penyalahgunaan, replikasi, persenjataan, dan pengoperasian yang sangat otonom sebagai potensi sumber bahaya AI yang parah.
  • Anthropic memperingatkan bahwa kapasitas asuransi mungkin tidak memadai untuk menanggung insiden terkait AI yang dahsyat.

Dokumen IPO Anthropic menguraikan risiko AI

Dokumen tersebut menyatakan bahwa kekhawatiran mengenai AI tingkat lanjut telah disuarakan di lingkungan Anthropic maupun oleh para peneliti, regulator, pembuat kebijakan, dan pelaku industri. Dokumen itu memperingatkan bahwa risiko dapat timbul jika sistem yang cukup canggih tidak memiliki perlindungan, pengawasan, dan keamanan yang memadai.

Anthropic juga memperingatkan bahwa polis asuransinya mungkin tidak mencakup secara memadai potensi kewajibannya. Perusahaan menyatakan bahwa insiden terkait AI yang dahsyat dapat begitu parah sehingga tidak ada satu pun perusahaan asuransi, atau bahkan industri asuransi secara keseluruhan, yang memiliki kapasitas atau keahlian memadai untuk menanggung pertanggungan yang sepadan dengan besarnya risiko.

Pengungkapan tersebut menguraikan potensi risiko, bukan menyatakan bahwa insiden semacam itu telah terjadi. Anthropic juga menyatakan bahwa perhatian publik berfokus pada kemungkinan konsekuensi AI bagi masyarakat, termasuk tergesernya pekerjaan dan penyalahgunaan.

Kebijakan keselamatan dan risiko operasional

Anthropic menyatakan bahwa Kebijakan Peningkatan Skala yang Bertanggung Jawab (Responsible Scaling Policy) menangani risiko AI yang dahsyat. Perusahaan tersebut penjelasan mengenai laporan risikonya menyatakan bahwa laporan-laporan itu menguraikan risiko yang teridentifikasi pada sistemnya, kesiapsiagaannya, serta langkah-langkah yang diambil untuk memitigasi risiko tersebut.

Dokumen tersebut juga mengidentifikasi ancaman operasional yang lebih konvensional. Anthropic menyatakan bahwa model, platform, dan aplikasinya bergantung pada pasokan listrik dan air yang andal di fasilitas yang menampung infrastrukturnya. Pemadaman, kelangkaan pasokan, kenaikan biaya utilitas, atau pembatasan listrik wajib dapat mengganggu layanan.

Baca Berita Lainnya

Berita FinanceVelix lainnya

Penafian

Artikel FinanceVelix ini menyajikan informasi umum, bukan nasihat keuangan, investasi, hukum, atau pajak yang dipersonalisasi. Harga pasar, suku bunga, dan kondisi ekonomi dapat berubah; investasi mengandung risiko kerugian. Fakta mencerminkan materi yang tersedia saat diterbitkan dan dapat berubah. Periksa sendiri informasi penting dan berkonsultasilah dengan tenaga profesional yang berkualifikasi bila diperlukan. Penyebutan aset, perusahaan, atau layanan bukan merupakan dukungan.