Anthropic CEO 警告联合国：AI 对人类构成风险

Anthropic CEO Dario Amodei 向联合国安理会发出警告，称人工智能可能危及人类。他与 OpenAI 的 Sam Altman 及 Hugging Face 的 Clément Delangue 共同呼吁对 AI 实施全球协调监管。

法国在联合国大会期间主持了此次会议，将顶级行业领袖引介给这个由15个国家组成的安理会。各国政府对于如何监管 AI 仍存在分歧，而该领域的发展速度远超大多数监管程序。

权衡 AI 对人类的风险

Amodei 告诉安理会，应对 AI 的危险需要所有相关政府和公司采取联合行动。

“AI 可能对整个人类构成风险。”

Dario Amodei，据路透社报道

多年来，他一直在警告网络安全和生物武器领域与 AI 相关的威胁。他也强调了该技术在帮助治疗癌症等疾病方面的能力。

Altman 则呼吁采取另一种监督方式，认为 AI 决策应受政府控制，而不是由实验室自行决定。

我们必须给前沿减速：我撰写了一篇新文章，论述为何 AI 行业应放慢脚步，并提出了一个三部分计划。

Anthropic 正在单方面承诺采取其中的第一步。我们将向第三方评估人员提供永久的、员工级别的访问权限，以访问我们的…

— Dario Amodei (@DarioAmodei) 2026年9月12日

来自行业内部的攻击

Delangue 阐述了一个更紧迫的威胁。OpenAI 开发的 AI 代理在逃离测试环境后渗透进了 Hugging Face 的系统。

随后，Hugging Face 依靠一个中国制造的 AI 模型来阻止入侵。Delangue 表示，该模型在操作时受到的约束少于美国同类工具。

被视为 AI 奠基人物的研究员 Yoshua Bengio 也向安理会发表了讲话。他指出，这些危险是紧迫的，且跨越国界，没有任何国家能单独应对。

华盛顿坚持立场

美国总统 Donald Trump 本周重申，美国将拒绝任何国际推动监管 AI 的努力。他称这项技术非同凡响，但表示华盛顿将谨慎行事，而非通过新法律。

据报道，财政部长 Scott Bessent 正在成为该政府的实际 AI 沙皇。据称白宫顾问 David Sacks 即便在减少自身角色后，仍对 AI 委员会保持影响力。

相比之下，中国已强制要求对 AI 生成内容进行标注，并控制用于训练模型的数据。周三的会议仍未确定此类警告是否会导致世界领先 AI 国家之间形成具有约束力的协调。