OpenAI 安全團隊成員估計三年內人類滅絕風險達 70%

OpenAI 安全監督團隊的一名成員聲稱，如果 AI 實驗室不減緩工作進度或監管機構不介入，未來三年內人類滅絕的機率為 70%。

Marcus Williams 於 2025 年 5 月加入 OpenAI，他在 X 平台上發布了這項預測。他最初分享了一則警告，直到另一位用戶詢問後才加上百分比數字。

滅絕估計如何產生

Williams 寫道，若缺乏 AI 監管或實驗室之間的協調減速，人類滅絕在未來幾年內似乎非常可能發生。

另一位用戶提出了一個賭注，涉及五年內以 10,000 美元買入 Microsoft 股票與 OpenAI 股票對賭。Williams 以一個百分比回應。

「如果沒有監管或減速，未來 3 年內機率為 70%，雖然我認為監管或減速很有可能」

除非有 AI 監管或實驗室之間的協調減速，否則未來幾年內人類滅絕似乎非常可能

— Marcus Williams (@Marcus_J_W) 2026年9月10日

這個保留條件與機率本身同樣重要。Williams 認為監管或減速是可行的，這意味著他並不認為結果是確定的。

華盛頓已對 AI 風險採取行動

這則貼文出現在一週內，將實驗室安全問題帶入政治主流。9月9日，一名 Anthropic 研究員辭職，指控 Anthropic 和 OpenAI 危害人類生命。

一天之內，美國議員做出回應。一項新的暫停 AI 努力出現，其中包括一項參議院法案，將直接禁止超級智慧。

實驗室之外的聲音也發出警報。聯合國人權事務主管本週稍早在日內瓦將先進 AI 描述為存亡威脅。

Williams 的預測仍屬於極端範圍。Anthropic 對齊科學負責人 Evan Hubinger 估計本十年的機率超過 10%。諾貝爾獎得主 Geoffrey Hinton 則給出了 10% 到 20% 的範圍。

與此同時，加密貨幣交易者現在直接關注這些警告。Polymarket 在數小時內將 Williams 的貼文分享給其追隨者，而其用戶已經為選舉和宏觀事件定價，並包含代幣賠率。

因此，短期挑戰在於政治，而非技術。監管機構是否會在 Williams 提出的三年時間範圍內採取行動仍不確定，而他自己的評估至今認為監管仍有可能。