Anthropic’in halka arz açıklamaları, uygun güvenlik önlemleri olmadan geliştirilmesi veya işletilmesi hâlinde ileri yapay zekânın insanlık için yıkıcı ya da varoluşsal riskler oluşturabileceği konusunda uyarıda bulunuyor. Şirket, planlanan halka arz başvurusunda olası sigorta ve altyapı risklerini de belirtiyor.

Öne Çıkanlar

  • Başvuru, kötüye kullanım, kopyalama, silah hâline getirme ve yüksek derecede otonom çalışma biçimlerini ciddi yapay zekâ zararlarının olası kaynakları olarak tanımlıyor.
  • Anthropic, yıkıcı bir yapay zekâ kaynaklı olay karşısında sigorta kapasitesinin yetersiz kalabileceği uyarısında bulunuyor.

Anthropic’in halka arz başvurusu yapay zekâ risklerini ele alıyor

Başvuruda, ileri yapay zekâya ilişkin endişelerin Anthropic içinde olduğu kadar araştırmacılar, düzenleyiciler, politika yapıcılar ve sektör paydaşları tarafından da dile getirildiği belirtiliyor. Yeterince gelişmiş sistemlerin uygun güvenlik önlemlerinden, gözetimden ve güvenlik korumalarından yoksun olması hâlinde risklerin ortaya çıkabileceği uyarısı yapılıyor.

Anthropic ayrıca sigorta poliçelerinin potansiyel yükümlülüklerini yeterince karşılamayabileceği konusunda uyarıyor. Şirket, yapay zekâ kaynaklı yıkıcı bir olayın o kadar ağır sonuçlar doğurabileceğini söylüyor ki hiçbir sigortacının, hatta olası olarak sigorta sektörünün tamamının, maruz kalınan riski karşılayacak teminatı üstlenmek için yeterli kapasitesi veya uzmanlığı bulunmayabilir.

Açıklamalar, böyle bir olayın gerçekleştiğine dair bir iddiadan ziyade potansiyel riskleri anlatıyor. Anthropic ayrıca kamuoyunun incelemesinin, işlerin yer değiştirmesi ve kötüye kullanım da dâhil olmak üzere yapay zekânın olası toplumsal sonuçlarına odaklandığını belirtiyor.

Güvenlik politikası ve operasyonel riskler

Anthropic, Sorumlu Ölçeklendirme Politikası’nın yıkıcı yapay zekâ risklerini ele aldığını söylüyor. Şirketin risk raporlarına ilişkin açıklaması bu raporların sistemlerinde gördüğü riskleri, hazırlık düzeyini ve söz konusu riskleri azaltmak için aldığı önlemleri anlattığını belirtiyor.

Başvuruda daha geleneksel operasyonel tehditler de belirtiliyor. Anthropic, modellerinin, platformunun ve uygulamalarının altyapının barındırıldığı tesislerde güvenilir elektrik ve su tedarikine bağlı olduğunu söylüyor. Kesintiler, kıtlıklar, daha yüksek kamu hizmeti maliyetleri veya zorunlu elektrik kısıtlamaları hizmetleri aksatabilir.

Daha Fazla Haber Oku

FinanceVelix’ten daha fazla haber

Yasal Uyarı

Bu FinanceVelix makalesi kişiye özel finansal, yatırım, hukuki veya vergi danışmanlığı değil, genel bilgi sunar. Piyasa fiyatları, faiz oranları ve ekonomik koşullar değişebilir; yatırımlar kayıp riski taşır. Bilgiler, yayımlandığı sırada mevcut olan materyalleri yansıtır ve değişebilir. Önemli bilgileri bağımsız olarak doğrulayın ve gerektiğinde nitelikli bir uzmana danışın. Bir varlıktan, şirketten veya hizmetten söz edilmesi, bunların onaylandığı anlamına gelmez.