Meta CEO称市场激励已在不需监管的情况下推动AI安全

Meta首席执行官马克·扎克伯格本周加入了关于AI灭绝风险的讨论，主张市场力量已迫使实验室在无需新监管的情况下关注安全。

几周前，Meta（META）的首席执行官曾就超级智能发出警告。在他最新的帖子中，他表示这项技术应赋能个人用户，而非少数公司集团。

一场并非扎克伯格引发的辩论

在他8月的文章中，扎克伯格反对任何单一企业或政府控制超级智能系统，主张广泛分发。

上个月我写了关于我们如何为每个人建设积极安全的未来：https://t.co/1KtONlqBs5

每个实验室都有责任和激励以所需速度安全训练其模型，并有能力采取自身行动确保这一点。

……

— 马克·扎克伯格 (@finkd) 2026年9月15日

扎克伯格的帖子发布之际，华盛顿的政策制定者正在应对AI行业内部的警告。本月，Anthropic研究员Jacob Coxon辞职，指责自己所在的公司和OpenAI在缺乏适当保护的情况下加速自我改进系统。

这次辞职加剧了完全禁止超级智能的运动。参议员伯尼·桑德斯和众议员格雷格·卡萨尔正在国会带头推动该倡议。

另外，OpenAI安全研究员Marcus Williams估计人类在三年内灭绝的概率为70%。他补充说，如果实验室减速或监管机构介入，这一数字可能会下降。

扎克伯格实际说了什么

根据扎克伯格的说法，对齐而非限制将区分可持续的AI代理与不成功的代理。他声称，信任正成为该行业最重要的资产。

人们不会想使用与自己不一致、不按他们要求行事的代理，因此实验室有强大的自然激励使模型更加对齐。

这位Meta首席执行官在X上的帖子中分享了他的观点。

扎克伯格还强调了Meta的安全记录。该公司将其Muse个人助理的发布从原定的4月日期推迟，以修复安全问题。他坚称Meta是独立采取这一步骤，而非等待行业范围的监管。

他进一步指出，Meta Superintelligence Labs（MSL）已经聘请外部评估人员来评估其工作。他主张，竞争实验室可以采用类似的独立评估。

Meta的创始人补充说，将大部分计算资源用于服务用户而非自我改进，可确保安全开发。

扎克伯格的立场并未解决根本争议。批评者呼吁对自我改进AI施加具有约束力的限制，而Meta则寄希望于竞争和自身利益。

这种平衡如何维持，可能影响国会在未来几个月对扎克伯格倡导快速发布AI的态度。