OpenAI 安全团队成员估计三年内人类灭绝风险为 70%

OpenAI 安全监督团队的一名成员声称，如果 AI 实验室不放慢工作，或监管机构干预，未来三年内人类灭绝的概率为 70%。

Marcus Williams 于2025年5月加入 OpenAI，他在 X 上发布了这一预测。他最初只分享了一条警告，在另一位用户追问后才加上了这个百分比。

这一灭绝估计是如何出现的

Williams 写道，如果没有 AI 监管或各实验室之间的协调放缓，人类灭绝在未来几年似乎非常可能发生。

另一位用户提出了一项涉及 $10,000 Microsoft 股票与 OpenAI 股票、为期五年的赌注。Williams 用一个百分比回应了对方。

“如果不存在监管/放缓，未来 3 年内概率为 70%，尽管我认为监管/放缓非常有可能”

除非有 AI 监管或实验室之间的协调放缓，否则未来几年内人类灭绝似乎非常可能发生。

— Marcus Williams (@Marcus_J_W) 2026年9月10日

这个留有余地的表述与概率本身同样重要。Williams 认为监管或放缓是有可能的，这意味着他并不认为这一结果是必然的。

华盛顿已就 AI 风险采取行动

这条帖子发布的那一周，实验室安全问题进入了政治主流。9月9日，一名 Anthropic 研究员辞职，指责 Anthropic 和 OpenAI 危害人类生命。

一天之内，美国立法者就作出了回应。一项叫停 AI 的新行动浮出水面，其中包括一项将彻底禁止超级智能的参议院法案。

实验室之外的声音也发出了警报。UN 人权事务主管本周早些时候在日内瓦将先进 AI 描述为一种生存威胁。

Williams 仍处于这些预测的最远端。Anthropic 对齐科学负责人 Evan Hubinger 估计，本十年内的概率超过 10%。诺贝尔奖得主 Geoffrey Hinton 给出了 10% 到 20% 的区间。

与此同时，加密货币交易者现在正直接关注这些警告。Polymarket 在数小时内将 Williams 的帖子分享给了其关注者，其用户已经在为选举和宏观事件定价，同时也为代币赔率定价。

因此，短期挑战是政治性的，而非技术性的。监管机构是否会在 Williams 的三年时间框架内采取行动仍不确定，而他自己的评估到目前为止仍然是：监管仍有可能。