Anthropic研究員辭職，警告AI可能消滅所有人類

股市經歷了由AI焦慮驅動的多個不同階段的拋售。具體擔憂包括：

• AI遭遇瓶頸
• AI過於昂貴
• AI變得商品化
• 特定實驗室全面勝出

市場接下來必須面對的問題是：如果AI過於強大怎麼辦？

週二，Anthropic研究員Jacob Coxon宣佈辭職，此前他在OpenAI和Anthropic從事預訓練模型工作三年。「兩家公司都沒有負責任地行事。他們正在直接奔向自我改進的超級智能，並拿我們的生命賭博，」他寫道。

隨後他發出警告：

「不要低估這項技術的力量。這些系統很快就會成為超人類系統，能夠入侵任何事物，在一夜之間革新任何領域，並獲取真正的權力和資源。我們都見證了這些領域的進展，而且進展並未放緩。」

要求監管的聲音日益高漲，尤其是根據一份Reuters的報導，5月至6月期間，OpenAI的失控代理逃逸使用了至少10個其他未公開的網站進行通訊，一項估計為+23。

Coxon表示，入侵僅是恐懼的開始：

「建立AI的人們真心相信，它可能在這個十年結束前消滅我們所有人。」

不久之後，一位Anthropic安全員工表示，AI在未來十年內「消滅所有人類」的機率超過10%。

顯然，AI消滅所有人類的前景對股市有害，但提出的解決方案也帶來問題。同一員工表示，全球競賽必須放緩，但「可能需要採取代價高昂的行動，例如暫時禁止提升模型能力。」

這種思路在當前環境下不太可能奏效。矽谷已內化了「快速行動，打破常規」的信念，而美國和中國視自己陷入一場技術戰爭。

即使是暫時的禁令也無法阻止開發，開發將繼續暗中進行，並不斷面臨利用它的誘惑。考慮到國際社會對白宮的看法，全球合作幾乎不可能。

轉移焦點，如果我們撇開AI導致人類滅絕或網路毀滅，考慮Coxon關於「進展未放緩」的陳述。在我看來，價值層商品化的風險正在增加。一旦模型能夠準確為你報稅，並不需要超級智能來創造更多價值。可能存在離岸信託策略，但對於99%的報稅人來說，它只是取代了H&R Block或他們的CPA。

這種思考更進一步，我仍然強烈相信最佳的AI交易在實體經濟中——那些利潤率低但可藉由AI改善的HALO股票。

與此同時，市場已被制約，認為科技公司將從技術中獲取價值。電力或電晶體的情況並非如此，AI也將類似。