การเปิดเผยข้อมูลสำหรับ IPO ของ Anthropic เตือนว่าปัญญาประดิษฐ์ขั้นสูงอาจก่อให้เกิดความเสี่ยงร้ายแรงหรือเป็นภัยคุกคามต่อการดำรงอยู่ของมนุษยชาติ หากได้รับการพัฒนาหรือใช้งานโดยไม่มีมาตรการป้องกันที่เหมาะสม นอกจากนี้ บริษัทยังระบุถึงความเสี่ยงที่อาจเกิดขึ้นด้านประกันภัยและโครงสร้างพื้นฐานในเอกสารยื่นขอเสนอขายหุ้นต่อสาธารณะตามแผน
ประเด็นสำคัญ
- เอกสารยื่นระบุว่าการนำไปใช้ในทางที่ผิด การทำซ้ำ การติดอาวุธ และการทำงานที่เป็นอิสระสูง อาจเป็นแหล่งที่มาของอันตรายร้ายแรงจาก AI
- Anthropic เตือนว่าความสามารถในการรับประกันภัยอาจไม่เพียงพอสำหรับเหตุการณ์ร้ายแรงที่เกี่ยวข้องกับ AI
เอกสารยื่น IPO ของ Anthropic ระบุความเสี่ยงจาก AI
เอกสารยื่นระบุว่า ทั้งภายใน Anthropic และในหมู่นักวิจัย หน่วยงานกำกับดูแล ผู้กำหนดนโยบาย และผู้มีส่วนร่วมในอุตสาหกรรม ต่างมีการหยิบยกข้อกังวลเกี่ยวกับ AI ขั้นสูงขึ้นมา เอกสารเตือนว่าความเสี่ยงอาจเกิดขึ้นได้หากระบบที่มีความก้าวหน้าสูงเพียงพอขาดมาตรการป้องกัน การกำกับดูแล และความปลอดภัยที่เหมาะสม
Anthropic ยังเตือนด้วยว่ากรมธรรม์ประกันภัยของบริษัทอาจไม่ครอบคลุมความรับผิดที่อาจเกิดขึ้นอย่างเพียงพอ บริษัทระบุว่าเหตุการณ์ร้ายแรงที่เกี่ยวข้องกับ AI อาจมีความรุนแรงถึงขั้นที่ไม่มีบริษัทประกันรายใดรายหนึ่ง หรืออาจรวมถึงอุตสาหกรรมประกันภัยทั้งหมด ที่มีความสามารถหรือความเชี่ยวชาญเพียงพอในการรับประกันภัยให้ครอบคลุมความเสี่ยงดังกล่าว
การเปิดเผยข้อมูลกล่าวถึงความเสี่ยงที่อาจเกิดขึ้น ไม่ได้อ้างว่าเหตุการณ์เช่นนั้นเกิดขึ้นแล้ว Anthropic ยังระบุด้วยว่าการตรวจสอบจากสาธารณชนมุ่งเน้นไปที่ผลกระทบที่อาจเกิดขึ้นจาก AI ต่อสังคม ซึ่งรวมถึงการแทนที่แรงงานและการนำไปใช้ในทางที่ผิด
นโยบายความปลอดภัยและความเสี่ยงในการดำเนินงาน
Anthropic ระบุว่านโยบาย Responsible Scaling Policy ของบริษัทจัดการกับความเสี่ยงร้ายแรงจาก AI บริษัท คำอธิบายเกี่ยวกับรายงานความเสี่ยง ระบุว่ารายงานเหล่านั้นอธิบายความเสี่ยงที่บริษัทพบในระบบของตน ความพร้อมในการรับมือ และมาตรการที่ใช้เพื่อลดความเสี่ยงดังกล่าว
เอกสารยื่นยังระบุถึงภัยคุกคามในการดำเนินงานที่พบได้ทั่วไปมากขึ้น Anthropic ระบุว่าโมเดล แพลตฟอร์ม และแอปพลิเคชันของบริษัทต้องพึ่งพาแหล่งจ่ายไฟฟ้าและน้ำที่เชื่อถือได้ ณ สถานที่ตั้งโครงสร้างพื้นฐาน ไฟฟ้าดับ การขาดแคลน ต้นทุนสาธารณูปโภคที่สูงขึ้น หรือการจำกัดการใช้ไฟฟ้าภาคบังคับ อาจทำให้บริการหยุดชะงักได้
อ่านข่าวเพิ่มเติม
ข้อจำกัดความรับผิด
บทความนี้จาก FinanceVelix ให้ข้อมูลทั่วไป ไม่ใช่คำแนะนำทางการเงิน การลงทุน กฎหมาย หรือภาษีที่ปรับให้เหมาะกับบุคคล ราคาตลาด อัตราดอกเบี้ย และภาวะเศรษฐกิจอาจเปลี่ยนแปลงได้ การลงทุนมีความเสี่ยงที่จะขาดทุน ข้อเท็จจริงสะท้อนข้อมูลที่มีอยู่ในขณะเผยแพร่และอาจเปลี่ยนแปลงได้ โปรดตรวจสอบข้อมูลสำคัญด้วยตนเอง และปรึกษาผู้เชี่ยวชาญที่มีคุณสมบัติเหมาะสมเมื่อจำเป็น การกล่าวถึงสินทรัพย์ บริษัท หรือบริการใดไม่ได้เป็นการรับรอง
ความคิดเห็น
เคารพผู้อื่น ห้ามสแปม แอบอ้างตัวตน หรือเผยแพร่ข้อมูลรับรองการเข้าถึงส่วนตัว โพสต์และความคิดเห็นทั่วไปจะแสดงทันที ส่วนลิงก์ที่น่าสงสัยจะถูกพักไว้เพื่อตรวจสอบ
กรุณารอสักครู่...