Οι γνωστοποιήσεις της Anthropic για την IPO προειδοποιούν ότι η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να θέσει καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα, εάν αναπτυχθεί ή λειτουργήσει χωρίς τις κατάλληλες δικλίδες ασφαλείας. Στην κατάθεσή της για προτεινόμενη δημόσια προσφορά, η εταιρεία επισημαίνει επίσης πιθανούς ασφαλιστικούς κινδύνους και κινδύνους για τις υποδομές.

Βασικά συμπεράσματα

  • Η κατάθεση προσδιορίζει την κακόβουλη χρήση, την αναπαραγωγή, την οπλοποίηση και τη λειτουργία με υψηλό βαθμό αυτονομίας ως πιθανές πηγές σοβαρής βλάβης από την ΤΝ.
  • Η Anthropic προειδοποιεί ότι η διαθέσιμη ασφαλιστική ικανότητα ενδέχεται να μην επαρκεί για ένα καταστροφικό συμβάν που σχετίζεται με την ΤΝ.

Η κατάθεση της Anthropic για την IPO περιγράφει κινδύνους από την ΤΝ

Η κατάθεση αναφέρει ότι ανησυχίες για την προηγμένη ΤΝ έχουν εκφραστεί τόσο εντός της Anthropic όσο και από ερευνητές, ρυθμιστικές αρχές, υπεύθυνους χάραξης πολιτικής και παράγοντες του κλάδου. Προειδοποιεί ότι θα μπορούσαν να προκύψουν κίνδυνοι αν τα επαρκώς προηγμένα συστήματα δεν διαθέτουν τις κατάλληλες δικλίδες ασφαλείας, εποπτεία και προστασία.

Η Anthropic επισημαίνει επίσης ότι τα ασφαλιστήριά της ενδέχεται να μην καλύπτουν επαρκώς τις δυνητικές υποχρεώσεις της. Αναφέρει ότι ένα καταστροφικό συμβάν που σχετίζεται με την ΤΝ θα μπορούσε να είναι τόσο σοβαρό, ώστε ούτε ένας μεμονωμένος ασφαλιστής ούτε, ενδεχομένως, ο ασφαλιστικός κλάδος συνολικά να διαθέτει επαρκή ικανότητα ή τεχνογνωσία για να αναλάβει κάλυψη ανάλογη με την έκθεση στον κίνδυνο.

Οι γνωστοποιήσεις περιγράφουν πιθανούς κινδύνους και δεν ισχυρίζονται ότι έχει συμβεί τέτοιο περιστατικό. Η Anthropic αναφέρει επίσης ότι ο δημόσιος έλεγχος έχει επικεντρωθεί στις πιθανές κοινωνικές συνέπειες της ΤΝ, όπως η εκτόπιση εργαζομένων και η κακόβουλη χρήση.

Πολιτική ασφάλειας και λειτουργικοί κίνδυνοι

Η Anthropic αναφέρει ότι η Πολιτική Υπεύθυνης Κλιμάκωσης αντιμετωπίζει τους καταστροφικούς κινδύνους από την ΤΝ. Η εταιρεία εξήγηση των εκθέσεών της για τους κινδύνους αναφέρει ότι αυτές περιγράφουν τους κινδύνους που εντοπίζει στα συστήματά της, την ετοιμότητά της και τα μέτρα που λαμβάνει για τον μετριασμό αυτών των κινδύνων.

Η κατάθεση επισημαίνει επίσης πιο συμβατικές λειτουργικές απειλές. Η Anthropic αναφέρει ότι τα μοντέλα, η πλατφόρμα και οι εφαρμογές της εξαρτώνται από την αξιόπιστη παροχή ηλεκτρικής ενέργειας και νερού στις εγκαταστάσεις που φιλοξενούν τις υποδομές της. Διακοπές, ελλείψεις, υψηλότερο κόστος κοινής ωφέλειας ή υποχρεωτικοί περιορισμοί στην κατανάλωση ηλεκτρικής ενέργειας θα μπορούσαν να διαταράξουν τις υπηρεσίες.

Διαβάστε περισσότερες ειδήσεις

Περισσότερες ειδήσεις από το FinanceVelix

Αποποίηση ευθύνης

Αυτό το άρθρο του FinanceVelix παρέχει γενικές πληροφορίες και όχι εξατομικευμένες χρηματοοικονομικές, επενδυτικές, νομικές ή φορολογικές συμβουλές. Οι τιμές της αγοράς, τα επιτόκια και οι οικονομικές συνθήκες μπορούν να μεταβληθούν· οι επενδύσεις ενέχουν κίνδυνο απώλειας. Τα στοιχεία αντικατοπτρίζουν το διαθέσιμο υλικό κατά τη δημοσίευση και ενδέχεται να αλλάξουν. Επαληθεύστε ανεξάρτητα τις σημαντικές πληροφορίες και συμβουλευτείτε έναν ειδικευμένο επαγγελματία όταν χρειάζεται. Η αναφορά σε περιουσιακό στοιχείο, εταιρεία ή υπηρεσία δεν συνιστά σύσταση.