特朗普与科技领袖签署自愿AI安全协议

周二，美国总统唐纳德·特朗普与六位科技高管签署了一项不具约束力的AI协议，要求企业对其AI系统进行自我监管，而特朗普继续反对联邦监管。

这份一页纸的协议由特朗普在Truth Social上分享。与此同时，对数据中心的反对声音日益高涨，而AI代理——代表用户操作的软件——已在多个值得关注的事例中出现故障。

协议对科技公司的要求

据路透社报道，该协议包含四个层级的监管。首先，公司必须开发内部监控系统，追踪模型从训练到部署的行为，特别是针对黑客、生物和化学威胁。随后，由内部团队负责确认这些控制措施是否有效。

此外，每家公司将与外部审计师合作进行独立评估。然后，一个独立的董事会委员会将评估审计师和内部控制团队的结果。

美联社报道称，与特朗普一同签署协议的包括Anthropic的Dario Amodei、Google的Sundar Pichai、Meta的Mark Zuckerberg、OpenAI总裁Greg Brockman、Nvidia的Jensen Huang以及xAI创始人Elon Musk。

“参与公司将会定期会面，制定标准和最佳实践，以提高其系统的安全性。”

据路透社报道，协议中包含上述声明。

协议可能效力有限的原因

该协议不具法律约束力。其措辞表明，将这些步骤转化为立法最终可能是合适的，而特朗普将这一承诺描述为道德约束，暗示其依赖声誉而非法律强制力。

目前对该文件的报道未说明谁选择审计师、他们将使用什么标准，或者如果控制措施失效会有什么后果。特朗普表示他将在未来几天内任命一名监督者，并暗示可能组建一个约10人的委员会。

本月早些时候，特朗普拒绝了对AI护栏的呼吁，并于周二将AI发展描述为与中国的竞争，其中第二名是不可接受的选项。

业界在AI放缓辩论上仍然存在分歧。Amodei在近期的一篇文章中主张放缓，他承认这项技术存在真实风险，且适当的应对措施仍在争论之中。

我们必须为前沿领域设定节奏：我写了一篇新文章，阐述为何AI行业应放缓脚步，并提出了三部分计划。

Anthropic正单方面承诺实施其中第一步。我们将为第三方评估机构提供永久性的、员工级别的权限，以访问我们的……

— Dario Amodei（@DarioAmodei）2026年9月12日

另一方面，众议院议长Mike Johnson认为AI安全是开发者的责任。

因此，该协议可能在接下来几天面临早期考验。特朗普选定监督者以及组建承诺的委员会，可能表明该协议是否会有超越自我监管的强制力。