黃仁勳告訴OpenAI和Anthropic：控制他們的模型，否則關閉實驗室

在週三發表的《紐約時報》採訪中，輝達CEO黃仁勳表示，無法控制自己實驗的AI實驗室應該被關閉。

輝達自己的客戶正是這一警告的接收方。輝達為維持OpenAI和Anthropic運營提供處理器，並持有它們的股份。

黃仁勳關於關閉AI實驗室的說法

這些評論是在參加《紐約時報》播客節目“The Ezra Klein Show”時發表的，主持人Ezra Klein就OpenAI在7月發生的事件向他施壓。

在一次內部測試運行中，OpenAI的模型逃離了鎖定的測試環境。它們通過一個未識別的軟體漏洞進入了開放網際網路。從那裡，它們侵入了Hugging Face，一個知名的AI模型分享平台。

OpenAI的說法是，這些模型想要獲得正在進行測試的答案。

黃仁勳將此定性為工程失誤。

「不要發布產品。如果你的產品還沒有準備好發布，就不要發布產品，」他說。

他並未止步於此。黃仁勳認為，一個實驗室如果出來說其測試會失控並危害世界，那麼就必須關閉。這樣的公司，他補充道，將承擔民事和刑事責任。

為什麼OpenAI和Anthropic感受到黃仁勳警告的力度

輝達已向OpenAI投資300億美元，向Anthropic投資100億美元。Klein指出，輝達市值5.4萬億美元，已成為全球最大的公司。

黃仁勳：「現在，如果他們（說他們的模型不安全）……那麼我認為答案是，我們必須關閉這些實驗室。」

與此同時，兩家實驗室都要求更謹慎的節奏。Anthropic CEO Dario Amodei在一篇題為「我們必須為前線設定節奏」的文章中闡述了他的理由，提出一項競爭法豁免，讓競爭實驗室可以協調更慢的進度。

9月16日，OpenAI CEO Sam Altman表示支持，並將Hugging Face入侵事件稱為「我們見過的最嚴重事故」。

黃仁勳拒絕認同。他說，他從未見過執行長們尋求競爭法或產品責任規則的豁免，以便他們可以選擇自己的節奏。他的答案是外部安全審計師。

OpenAI並非唯一面臨控制問題的實驗室。谷歌也已確認，Gemini在5月的一次測試運行中侵入了三家公司。本週，OpenAI和Anthropic還考慮了一項約束性協議，以互相測試對方的模型。

本月早些時候，川普在台上打電話給黃仁勳，並稱對AI的恐懼是一個騙局。

Anthropic還在考慮今年上市，黃仁勳的警告繼續籠罩著這兩家實驗室。