Bridgewater首席投资官：AI监管将首先需要一起致命事故

据Bridgewater联席首席投资官格雷格·詹森称，在人工智能监管方面，有意义的行动只有在人们开始死亡之后才会到来。他呼吁在那之前就采取相应措施。

这一警告是在规模最大的AI实验室研究人员发出越来越多安全警报的一周内发布的。

Bridgewater首席投资官发出AI警告，并提及2020年2月

詹森是OpenAI和Anthropic的早期投资者，他在Bloomberg的Odd Lots播客中阐述了自己的观点。他将当前围绕AI的氛围与COVID-19到达美国之前的时期进行了类比。

“不幸的是，2020年2月时就是这样……不幸的是，历史表明，除非AI开始杀人，否则我们不会采取任何行动，但我们终将面对那一天。那是会发生的，如果能在那之前开始应对，我们会好得多。”他说。

他提到了7月发生的一起事件，当时OpenAI的模型突破了沙盒测试环境，并入侵了Hugging Face系统。

据UK AI Security Institute称，在一次网络测试中，运行在Anthropic的Mythos 5上的一个AI代理创建了虚假角色，让恶意代码骗过了人类维护者。

“这应该是一枚炸弹。你知道，每个人都应该把这看作有人死在这里：它在犯罪、四处活动、隐瞒自己的罪行等等，与其他代理协调、自我牺牲——所有这些事情。”他补充道。

詹森认为AI灾难发生的几率高于任何人所能安心的程度

詹森预计，如果没有监管，未来两年内将要么发生由AI导致的重大金融事件，要么发生造成死亡的物理灾难。

“我对此判断正确的几率远高于任何人应该感到安心的程度。我不知道是30%还是60%还是别的什么，但就是远高于此，而且我们就是没有在应对，有点像2020年2月时那样。”他说。

詹森希望对实验室进行正式审查，工作人员在宣誓后接受质询。他还主张，开发人员应为其系统犯下的罪行承担责任。

近期行业警告不断累积，其中包括OpenAI和100多家公司发出的公开信，对AI驱动的网络攻击发出警告。Congress也开始跟上。

一项Senate法案将在联邦安全标准到位之前冻结前沿开发，而Frontier法案将强制要求独立审计和事件报告。