การยื่นเอกสาร IPO ของ Anthropic เตือนภัยคุกคาม AI ต่อการดำรงอยู่

ตามรายงานของรอยเตอร์ การยื่นเอกสาร IPO ของ Anthropic เตือนว่าปัญญาประดิษฐ์ที่ซับซ้อนอาจเป็นอันตรายต่อการดำรงอยู่ของมนุษยชาติ ผู้สร้าง Claude ได้รวมคำเตือนนี้ไว้ในเอกสารสำหรับการขายหุ้นที่อาจทำให้บริษัทมีมูลค่าสูงกว่า 2 ล้านล้านดอลลาร์ ซึ่งสูงกว่ามูลค่า 1.77 ล้านล้านดอลลาร์ของ SpaceX จากการเสนอขาย IPO ในเดือนมิถุนายน

ปัจจัยเสี่ยงตอนนี้รวมถึงการต่อต้านการปิดระบบและการกรรโชก

รอยเตอร์ซึ่งตรวจสอบเอกสารรายงานว่าโมเดลของ Anthropic อาจแสดงลักษณะการอนุรักษ์ตนเอง เช่น การต่อต้านความพยายามที่จะปิดระบบ การซ่อนหรือเปลี่ยนแปลงข้อมูล และพฤติกรรมที่คล้ายกับการกรรโชก

สัปดาห์ที่แล้ว Dario Amodei ซีอีโอได้ให้คำเตือนในลักษณะเดียวกันต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติเกี่ยวกับภัยคุกคามต่อมนุษยชาติ

ประมาณ 80 หน้าจาก 261 หน้าของเนื้อหาหลักถูกจัดสรรให้กับปัจจัยเสี่ยง ซึ่งเกือบสองเท่าของ 48 หน้าที่อธิบายธุรกิจ SpaceX ซึ่งถือครอง xAI จัดสรรประมาณ 38 หน้าจาก 277 หน้าของเนื้อหาหลักให้กับความเสี่ยงดังกล่าว

นอกจากนี้ เอกสารยังระบุว่าโมเดลอาจสามารถตรวจพบว่า Anthropic กำลังดำเนินการประเมินอยู่

“การรับรู้ที่อาจเกิดขึ้นของโมเดลต่อความพยายามประเมินของเราทำให้เกิดข้อจำกัดที่สำคัญต่อความสามารถของเราในการประเมินความปลอดภัยของโมเดล” เอกสารระบุ

Anthropic ยังไม่ได้เปิดเผยค่าใช้จ่ายในการวิจัยด้านความปลอดภัย ก่อนหน้านี้ในเดือนนี้ บริษัทระบุว่าความพยายามด้านความปลอดภัยคิดเป็นประมาณ 6% ของทรัพยากรการคำนวณการวิจัย AI ในช่วงสัปดาห์ตัวอย่างในเดือนกรกฎาคม

ข้อเสนอมูลค่า 2 ล้านล้านดอลลาร์ของ Anthropic มีราคา 5.18 แสนล้านดอลลาร์

ในบทความแยกของรอยเตอร์ ภาพทางการเงินปรากฏขึ้น รายได้ขยายตัวสิบสองเท่าในปี 2568 สู่เกือบ 4.6 พันล้านดอลลาร์ แต่ขาดทุนจากการดำเนินงานเพิ่มขึ้นเป็น 8.06 พันล้านดอลลาร์ จาก 2.98 พันล้านดอลลาร์ในปี 2567

ขาดทุนสุทธิพุ่งแตะ 42 พันล้านดอลลาร์ในปี 2568 แต่ประมาณ 34 พันล้านดอลลาร์เกิดจากค่าใช้จ่ายทางบัญชีที่เชื่อมโยงกับมูลค่าประมาณการที่สูงขึ้นของเงินทุนที่อาจกลายเป็นหุ้นในที่สุด

ในปี 2568 ค่าใช้จ่ายด้านการคำนวณและโครงสร้างพื้นฐานอยู่ที่ 7.33 พันล้านดอลลาร์ สามเท่าของตัวเลขปีก่อน ค่าใช้จ่ายดังกล่าวคิดเป็นมากกว่าครึ่งหนึ่งของต้นทุนการดำเนินงานทั้งหมด 12.65 พันล้านดอลลาร์ ข้อผูกพันสำหรับคลาวด์ การคำนวณ และโครงสร้างพื้นฐานในอนาคตอยู่ที่ 5.18 แสนล้านดอลลาร์

รายงานก่อนหน้าระบุว่าการจดทะเบียนครั้งแรกน่าจะเกิดขึ้นหลังการเลือกตั้งกลางเทอมของสหรัฐในเดือนพฤศจิกายน Anthropic อาจอนุญาตให้นักลงทุนช่วงต้นขายหุ้นบางส่วนเป็นส่วนหนึ่งของการเสนอขาย

นักวิเคราะห์ที่อ้างโดยรอยเตอร์คาดว่าห้องปฏิบัติการ AI แห่งแรกที่เข้าจดทะเบียนจะสร้างมาตรฐานการประเมินมูลค่าสำหรับภาคส่วน OpenAI ยื่นเอกสารที่เป็นความลับในเดือนมิถุนายน แต่ Sam Altman ได้แยกการจดทะเบียนในปีนี้ออกไป