川普與科技領袖簽署自願性AI安全協議

週二，總統唐納·川普與六位科技高階主管簽署了一項不具約束力的AI協議，要求企業自我監管其AI系統，而川普仍持續反對聯邦監管。

這份一頁的協議由川普在Truth Social上分享。與此同時，反對資料中心的力量日益增加，而AI代理——代表使用者運作的軟體——在多次知名案例中出現故障。

協議對科技公司的要求

根據路透社報導，該協議包含四個層級的監督。首先，公司必須開發內部監控系統，以追蹤模型從訓練到部署的行為，特別針對駭客、生物與化學威脅。接著由內部團隊負責確認這些控制措施有效運作。

此外，每家公司將與外部稽核員合作，進行獨立評估。然後由一個獨立董事會委員會評估稽核員與內部控制團隊的結果。

美聯社報導，與川普一同簽署的包括Anthropic的Dario Amodei、Google的Sundar Pichai、Meta的Mark Zuckerberg、OpenAI總裁Greg Brockman、Nvidia的Jensen Huang，以及xAI創辦人Elon Musk。

「參與公司將定期會面，以建立標準與最佳實務，提升其系統的安全性。」

根據路透社報導，協議中包含這項聲明。

協議可能影響力有限的原因

該協議不具法律約束力。其措辭顯示，將這些步驟轉化為立法可能是合適的，而川普將這項承諾描述為道德約束，意味著它依賴於聲譽而非法律效力。

目前對該文件的報導未指明由誰選擇稽核員、他們將使用什麼標準，或控制失敗時會有什麼後果。川普表示他將在未來幾天內任命一位監督者，並暗示可能會組成一個約10人的委員會。

本月初，川普拒絕了AI防護措施的呼籲，並在週二將AI發展描述為與中國的競爭，表示拿下第二名不是選項。

業界對AI減速辯論仍存在分歧。Amodei在最近的文章中主張減速，他承認這項技術存在真實風險，而且適當的應對方式仍在討論中。

我們必須為前沿設定節奏：我寫了一篇新文章，說明為什麼AI產業應該減速，並提出了三部分計畫。

Anthropic單方面承諾執行其中的第一步。我們將提供第三方評估者永久性的、員工等級的存取權限至我們的…

— Dario Amodei (@DarioAmodei) 2026年9月12日

另一方面，眾議院議長Mike Johnson則主張AI安全是開發者的責任。

因此，該協議可能在未來幾天內面臨早期考驗。川普選擇監督者以及組成承諾的委員會，可能顯示該協議是否會有超越自我監管的執行力。