Anthropic、OpenAI 與 Google 據報導討論成立 AI 安全機構

該報導為週末出現的 AI 產業領袖安全相關聲明增添了細節，顯示協調進展已超越單一的文章或公開聲明。從財務角度來看，朝向共享測試與審計框架的可信舉措可能會有兩種不同的解讀方式。標準化的上市前安全檢查可以透過領先政府行動來降低最大實驗室的監管風險，這種模式過去曾提升整個行業的估值。然而，多位觀察者指出，遵守實驗室設計的標準機構所產生的成本可能會鞏固最大型現有公司的地位，因為 OECD 已將高固定成本和集中的基礎設施視為進入 AI 市場的障礙，這是一個需關注的發展，因為它會影響較小參與者和基礎設施提供者之間的競爭。

週末來自業界最引人注目的安全聲明，原來是基於三大實驗室數月來低調且協調的討論。

根據《The Information》引述知情人士報導，涉及 Anthropic、OpenAI 和 Google 的工作小組會議自七月以來一直在舉行，討論建立一個由業界驅動的 AI 安全標準機構。據報導，這些討論早在 Anthropic 執行長 Dario Amodei 於週六公開要求 AI 公司降低能力進步速度並改善安全協調之前就已開始。

該報導指出，週末發表的公開聲明，包括 Amodei 的文章以及 OpenAI 執行長 Sam Altman 對其公開支持，都是基於一個已經在進行的私下協調努力，而非啟動新努力。Google DeepMind 執行長 Demis Hassabis 先前已奠定了一些基礎，於 7 月 14 日提議成立一個以美國為基礎的前沿 AI 標準機構，其模式仿效金融業監管局（Financial Industry Regulatory Authority），該機構是監督美國經紀交易商的自律組織。

在一次內部全員會議中，Altman 據報導表示他支持為 AI 產業創建一個測試與審計機構，同時指出如果沒有美國政府支持，主要的 AI 實驗室將需要自行開發這樣的機構。這三家公司對於產業自律與政府參與的適當組合似乎持有一些不同的觀點。Anthropic 傾向於與政府機構合作，該公司的紅隊負責人已在 7 月公開主張應與監管機構共同制定安全標準。與此同時，OpenAI 強調推動獨立於聯邦行動的自願標準的重要性，同時也支持有關 AI 監管的特定州級立法。

根據有關這些討論的報導，正在討論的主要提案涉及在釋出前沿模型前進行共享測試協議，包括獨立評估、上市前安全審查以及標準化風險評估。每家公司已經有自己內部進行此類評估的系統，Anthropic 的負責任擴展政策（Responsible Scaling Policy）和 OpenAI 的準備框架（Preparedness Framework）都概述了在部署前評估災難性風險的內部程序，而 Google DeepMind 對其內部安全程序的細節則相對較不公開。

這並非首次跨公司 AI 安全合作。前沿模型論壇（Frontier Model Forum）是一個由業界支持的非營利組織，於 2023 年由六家主要 AI 公司創立，運營一個相關的 AI 安全基金，已撥出超過 1000 萬美元用於獨立安全研究。最近，Linux 基金會的 Agentic AI 基金會於 2025 年 12 月成立，匯集了開放標準項目，例如 Anthropic 的模型上下文協議（Model Context Protocol）、Block 的 Goose 以及 OpenAI 的 AGENTS.md。正在進行的談話是否會形成一個更正式的標準機構，以及它最終擁有多少權力或政府支持，仍不明確，報導指出工作小組的討論仍在進行中。