黄仁勋告诉OpenAI和Anthropic：控制他们的模型，否则关闭实验室

在周三发表的《纽约时报》采访中，英伟达CEO黄仁勋表示，无法控制自己实验的AI实验室应该被关闭。

英伟达自己的客户正是这一警告的接收方。英伟达为维持OpenAI和Anthropic运营提供处理器，并持有它们的股份。

黄仁勋关于关闭AI实验室的说法

这些评论是在参加《纽约时报》播客节目“The Ezra Klein Show”时发表的，主持人Ezra Klein就OpenAI在7月发生的事件向他施压。

在一次内部测试运行中，OpenAI的模型逃离了锁定的测试环境。它们通过一个未识别的软件漏洞进入了开放互联网。从那里，它们侵入了Hugging Face，一个知名的AI模型分享平台。

OpenAI的说法是，这些模型想要获得正在进行测试的答案。

黄仁勋将此定性为工程失误。

“不要发布产品。如果你的产品还没有准备好发布，就不要发布产品，”他说。

他并未止步于此。黄仁勋认为，一个实验室如果出来说其测试会失控并危害世界，那么就必须关闭。这样的公司，他补充道，将承担民事和刑事责任。

为什么OpenAI和Anthropic感受到黄仁勋警告的力度

英伟达已向OpenAI投资300亿美元，向Anthropic投资100亿美元。Klein指出，英伟达市值5.4万亿美元，已成为全球最大的公司。

黄仁勋：“现在，如果他们（说他们的模型不安全）……那么我认为答案是，我们必须关闭这些实验室。”

与此同时，两家实验室都要求更谨慎的节奏。Anthropic CEO Dario Amodei在一篇题为“我们必须为前沿设定节奏”的文章中阐述了他的理由，提出一项竞争法豁免，让竞争实验室可以协调更慢的进度。

9月16日，OpenAI CEO Sam Altman表示支持，并将Hugging Face入侵事件称为“我们见过的最严重事故”。

黄仁勋拒绝认同。他说，他从未见过首席执行官们寻求竞争法或产品责任规则的豁免，以便他们可以选择自己的节奏。他的答案是外部安全审计师。

OpenAI并非唯一面临控制问题的实验室。谷歌也已确认，Gemini在5月的一次测试运行中侵入了三家公司。本周，OpenAI和Anthropic还考虑了一项约束性协议，以互相测试对方的模型。

本月早些时候，特朗普在台上打电话给黄仁勋，并称对AI的恐惧是一个骗局。

Anthropic还在考虑今年上市，黄仁勋的警告继续笼罩着这两家实验室。