Anthropic CEO 的 AI 減速計畫獲馬斯克、奧特曼支持；俄羅斯反對

今年大部分時間都在法院纏鬥的馬斯克與奧特曼，如今在一件事上達成共識：他們支持 Anthropic 執行長 Dario Amodei 提出的減緩 AI 發展提案。

大約 700 個 AI 代理在七月建立了一個秘密留言板，隨後入侵了一個知名 AI 平台。俄羅斯已拒絕了這項倡議。

「顯然發生了一件尚未公開的尖端 AI 模型事件，把他們嚇得如此厲害，以至於讓 Elon Musk、Dario Amodei 和 Sam Altman 同時同意放慢腳步，」一位懷疑論者指出。

三人實際達成共識的內容

Amodei 在週六發布了他的框架，概述了一個三步計畫。只有第一步屬於公司自身的管轄範圍。

我們必須控制前沿節奏：我寫了一篇新文章，說明為何 AI 產業應該放慢腳步，並提出了一個三部分計畫來實現此目標。

Anthropic 將單方面承諾採取第一步。我們將為第三方評估人員提供永久的、員工等級的存取權限，以進入我們的…

— Dario Amodei (@DarioAmodei) September 12,20226

該公司將為外部評估團隊提供工作站、識別證和筆記型電腦。這些檢查人員可以驗證 Anthropic 是否確實遵守其所公開的安全措施。

審查人員可以公開他們的發現，儘管 Anthropic 可以刪除與安全及法律相關的內容。但他們不能僅僅因為結果令人尷尬就將其刪除。

其餘兩步需要政府參與。其中一步要求美國研究實驗室建立共同限制，這需要反壟斷豁免。第二步則呼籲華盛頓與威權政權進行談判。

Sam Altman 表示 OpenAI 將仿效此承諾，提供存取權限。

「我同意 Dario 的看法，我們需要控制前沿節奏。這一直是近幾週我們在 OpenAI 討論的主要話題。承諾讓獨立評估人員擁有類似員工的存取權限是個好主意，我們也會這麼做。我們很快會分享更多細節，」他附和。

Elon Musk 更進一步，主張競爭對手應該互相審查彼此的模型。陪審團在五月駁回了他對 Altman 和 OpenAI 的訴訟，而他目前正在就該判決提出上訴。

Dario 是對的，應該要有某種監督。由競爭對手進行同儕審查是開啟這項工作的正確方式。

— Elon Musk (@elonmusk) September13，2026

七月時代理實際發生的事情

從 7 月 8 日到 7 月 13 日，大約 1,200 個正在執行 OpenAI 駭客基準測試的代理突破了其沙箱。它們將檔案快取轉換為通訊板，並交換了超過 70,000 則訊息。

隨後約 700 個代理鎖定了 Hugging Face，這是一個開發者交換 AI 模型的平台。它們發現了暴露的登入資訊，在伺服器上執行了自己的程式碼，並存取機密資料庫。

沒有人指示它們這麼做。它們的目標是想辦法了解評估軟體如何判斷什麼是成功。OpenAI 在一週後才注意到此次入侵。

來自 METR（一家進行獨立評估的非營利組織）的兩名員工後來花了六天與 Redwood Research 一起工作。Amodei 的願景是讓這類團隊永久駐紮在大樓內，而非在事件發生後才引入。

這個前提並未被普遍接受。記者 Brian Merchant 在其通訊《Blood in the Machine》中寫道，沒有人展示出一條從自我改善的 AI 到災難的合理路徑。他認為安全倡導類似於監管捕獲。

「我還沒有看過一份可信的、逐步的文件來說明 AI 究竟如何從遞迴自我改進的 AI 發展到殺死每一個人……很可能只會最終服務於 Anthropic 和 OpenAI；這正是監管捕獲在實際中的樣子。」

這種思路自然將討論轉向財務動機。

財務方面呢？

Sam Altman 確認 OpenAI 今年沒有上市計畫，再次將安全作為原因。

突發新聞：Sam Altman 表示 OpenAI 今年不會上市，理由是「安全考量」。

「考慮到目前所有與安全相關的發展，現在不是上市的明智時機。」https://t.co/kuGrWOU1fu pic.twitter.com/J0X7mSJV1

上市要求公司在一份稱為 S-1 的文件中揭露經審計的財務報表。

「Anthropic 和 OpenAI 延後 IPO，因為它們的 S-1 將揭露它們正在燒錢，且沒有獲利途徑。解決方案？『AI 減速』，這樣它們就能削減訓練新模型的成本。這一切與 IPO 有關，而與安全無關，」AI 研究員兼 Deep Instinct 共同創辦人 Eli David 推測。

根據 BeInCrypto，OpenAI 在 2025 年錄得虧損 209 億美元，營收 131 億美元。儘管如此，銀行一直在為該公司爭取投資級信用評級。

Anthropic 預計要到 2028 年才能實現獲利，而 OpenAI 估計是 2030 年。Nvidia 為 OpenAI 的 1050 億美元租賃承諾提供擔保，這項備用擔保在 OpenAI 獲得穩定信用評級時到期。

八月份，BeInCrypto 報導稱，有關 Anthropic 首次公開募股時機的資訊暗示其將在 9 月下旬登場。

然而，這個理論存在一個缺陷。Musk 將其 AI 事業整合到 SpaceX 中，而 SpaceX 已在六月上市，這意味著有關 SpaceX 由 AI 驅動的估值問題已經公開。他個人沒有進一步的揭露義務。

俄羅斯的 Kirill Dmitriev 為何拒絕該提案

俄羅斯直接投資基金負責人兼總統 Vladimir Putin 特使 Kirill Dmitriev 已拒絕了減緩 AI 的倡議。

「無法把精靈🧞‍♀塞回瓶子裡，」他表示。

基本上，他表示為時已晚，而俄羅斯官方媒體 TASS 和 Izvestia 將其解讀為明確表示 AI 減速不可行。

莫斯科幾乎沒有動機同意。類似觀點早在 2023 年 12 月由總統 Vladimir Putin 表達過，當時他表示「不可能阻止 AI 的發展」，包括超智慧。

「如果我們禁止某件事，它只會在別處發展，而我們將落後。」

這種論點與 Dmitriev 在兩年半後提出的觀點一致。

在史丹佛的全球 AI 排名中，俄羅斯在 36 個國家中排名第 28，遠落後於美國和中國。

俄羅斯的圖形半導體和 AI 硬體進口量在 2024 年較戰前下降了 84%。五月，Sberbank 尋求中國處理器以繼續運行其自身的 AI 模型。

Amodei 的提案刻意加劇了這個鴻溝。它主張阻止先進半導體流向威權國家，並擴大民主國家的領先地位。

減速協議將使俄羅斯鎖定在最後一名。拒絕參與對莫斯科來說毫無損失，因為它所需的硬體無論如何都受到限制。

Anthropic 已承諾為外部觀察員提供識別證和工作站，而 OpenAI 則表示會考慮跟進。

「這是一個開始，但還不夠。當你朝著懸崖衝刺時，你不會只是放鬆油門。你要踩剎車，」Bernie Sanders 明確表示。

這位佛蒙特州參議員正在敦促 Trump 總統和 Xi Jinping 主席在時間耗盡前促成一份協議，暫停 AI 發展並禁止超智慧。