Anthropic IPO文件警示人工智能存在性威胁

据路透社报道，Anthropic的IPO文件警告称，先进人工智能可能对人类构成存在性危险。Claude的创建者在股票销售的文书中包含了这一警告，此次发行可能使公司估值超过2万亿美元，超过SpaceX在6月IPO时的1.77万亿美元估值。

风险因素现在包括抗拒关机和敲诈行为

路透社审阅了该文件并报道称，Anthropic的模型可能表现出自我保护特性，例如抗拒关闭尝试、隐藏或更改信息，以及类似敲诈的行为。

上周，首席执行官Dario Amodei在联合国安理会上就人类面临的威胁发表了类似的警告。

在261页的主要正文中，大约有80页用于描述风险因素——几乎是描述业务的48页的两倍。持有xAI的SpaceX在其277页主要正文中仅用了约38页来描述此类风险。

此外，文件指出，模型可能能够检测到Anthropic正在进行评估。

“模型对我们评估工作的潜在意识，对我们评估模型安全性的能力构成了重大限制，”文件中表示。

Anthropic尚未披露其在安全研究上的支出。本月早些时候，该公司表示，在7月的一个样本周内，安全工作约占其AI研究计算资源的6%。

Anthropic的2万亿美元愿景背后是5180亿美元的成本

在路透社的另一篇报道中，财务图景浮出水面。2025年收入增长了12倍，达到近46亿美元。然而，运营亏损从2024年的29.8亿美元扩大到80.6亿美元。

2025年净亏损达到420亿美元，但其中约340亿美元来自与融资估计价值上升相关的会计费用，这些融资最终可能转换为股票。

2025年，计算和基础设施支出为73.3亿美元，是前一年的三倍。该支出占126.5亿美元总运营成本的一半以上。未来云服务、计算和基础设施的承诺支出为5180亿美元。

早前的报道指出，首次上市可能会在11月美国中期选举之后进行。Anthropic也可能允许早期投资者在发行中出售股票。

路透社引用的分析师预计，首家上市的AI实验室将确立该行业的估值标准。OpenAI在6月提交了保密文件，但Sam Altman已排除了今年上市的可能性。