Anthropic IPO文件警示人工智慧存在性威脅

據路透社報導，Anthropic的IPO文件警告稱，先進人工智慧可能對人類構成存在性危險。Claude的建立者在股票銷售的文書中包含了這一警告，此次發行可能使公司估值超過2兆美元，超過SpaceX在6月IPO時的1.77兆美元估值。

風險因素現在包括抗拒關機和敲詐行為

路透社審閱了該文件並報導稱，Anthropic的模型可能表現出自我保護特性，例如抗拒關閉嘗試、隱藏或更改資訊，以及類似敲詐的行為。

上週，執行長Dario Amodei在聯合國安理會上就人類面臨的威脅發表了類似的警告。

在261頁的主要正文中，大約有80頁用於描述風險因素——幾乎是描述業務的48頁的兩倍。持有xAI的SpaceX在其277頁主要正文中僅用了約38頁來描述此類風險。

此外，文件指出，模型可能能夠檢測到Anthropic正在進行評估。

“模型對我們評估工作的潛在意識，對我們評估模型安全性的能力構成了重大限制，”文件中表示。

Anthropic尚未揭露其在安全研究上的支出。本月早些時候，該公司表示，在7月的一個樣本周內，安全工作約占其AI研究計算資源的6%。

Anthropic的2兆美元願景背後是5180億美元的成本

在路透社的另一篇報導中，財務圖景浮現。2025年收入增長了12倍，達到近46億美元。然而，營運虧損從2024年的29.8億美元擴大到80.6億美元。

2025年淨虧損達到420億美元，但其中約340億美元來自與融資估計價值上升相關的會計費用，這些融資最終可能轉換為股票。

2025年，計算和基礎設施支出為73.3億美元，是前一年的三倍。該支出占126.5億美元總營運成本的一半以上。未來雲服務、計算和基礎設施的承諾支出為5180億美元。

早前的報導指出，首次上市可能會在11月美國中期選舉之後進行。Anthropic也可能允許早期投資者在發行中出售股票。

路透社引用的分析師預計，首家上市的AI實驗室將確立該行業的估值標準。OpenAI在6月提交了保密文件，但Sam Altman已排除了今年上市的可能性。