Các thông tin công bố trong hồ sơ IPO của Anthropic cảnh báo rằng trí tuệ nhân tạo tiên tiến có thể gây ra rủi ro thảm khốc hoặc đe dọa sự tồn vong của nhân loại nếu được phát triển hoặc vận hành mà không có các biện pháp bảo vệ phù hợp. Công ty cũng nêu các rủi ro tiềm ẩn về bảo hiểm và hạ tầng trong hồ sơ chào bán cổ phiếu ra công chúng dự kiến.

Điểm chính

  • Hồ sơ nêu việc sử dụng sai mục đích, sao chép, vũ khí hóa và vận hành với mức độ tự chủ cao là những nguồn có thể gây tổn hại nghiêm trọng từ AI.
  • Anthropic cảnh báo rằng năng lực bảo hiểm có thể không đủ để ứng phó với một sự cố liên quan đến AI gây thảm họa.

Hồ sơ IPO của Anthropic nêu các rủi ro AI

Hồ sơ cho biết những quan ngại về AI tiên tiến đã được nêu lên trong nội bộ Anthropic, cũng như bởi các nhà nghiên cứu, cơ quan quản lý, nhà hoạch định chính sách và các bên tham gia trong ngành. Hồ sơ cảnh báo rủi ro có thể phát sinh nếu các hệ thống đủ tiên tiến không có biện pháp bảo vệ, giám sát và an ninh phù hợp.

Anthropic cũng cảnh báo rằng các hợp đồng bảo hiểm của công ty có thể không bảo vệ đầy đủ trước các khoản nợ tiềm tàng. Công ty cho biết một sự cố liên quan đến AI gây thảm họa có thể nghiêm trọng đến mức không một công ty bảo hiểm đơn lẻ nào, hoặc thậm chí toàn ngành bảo hiểm, có đủ năng lực hay chuyên môn để bảo lãnh mức bảo hiểm tương xứng với rủi ro.

Các thông tin công bố mô tả những rủi ro tiềm ẩn, chứ không khẳng định rằng sự cố như vậy đã xảy ra. Anthropic cũng cho biết công chúng đã tập trung giám sát những hệ quả xã hội có thể có của AI, bao gồm tình trạng mất việc làm và việc sử dụng sai mục đích.

Chính sách an toàn và rủi ro vận hành

Anthropic cho biết Chính sách Mở rộng Có Trách nhiệm của công ty đề cập đến các rủi ro AI thảm khốc. Công ty giải thích về các báo cáo rủi ro của mình cho biết các báo cáo mô tả những rủi ro mà công ty nhận thấy trong các hệ thống của mình, mức độ sẵn sàng ứng phó và các biện pháp được thực hiện để giảm thiểu những rủi ro đó.

Hồ sơ cũng nêu các mối đe dọa vận hành thông thường hơn. Anthropic cho biết các mô hình, nền tảng và ứng dụng của công ty phụ thuộc vào nguồn cung điện và nước ổn định tại các cơ sở lưu trữ hạ tầng. Mất điện, thiếu hụt nguồn cung, chi phí tiện ích tăng cao hoặc việc cắt giảm điện bắt buộc có thể làm gián đoạn dịch vụ.

Đọc thêm tin tức

Thêm tin tức từ FinanceVelix

Tuyên bố miễn trừ trách nhiệm

Bài viết này của FinanceVelix cung cấp thông tin chung, không phải lời khuyên tài chính, đầu tư, pháp lý hoặc thuế được cá nhân hóa. Giá thị trường, lãi suất và điều kiện kinh tế có thể thay đổi; đầu tư luôn tiềm ẩn rủi ro thua lỗ. Các thông tin phản ánh tài liệu có sẵn tại thời điểm đăng tải và có thể thay đổi. Hãy tự kiểm chứng thông tin quan trọng và tham khảo chuyên gia đủ trình độ khi cần. Việc đề cập đến một tài sản, công ty hoặc dịch vụ không đồng nghĩa với sự chứng thực.